Learning rule
مصنوعی عصبی نیٹ ورک کا سیکھنے کا اصول یا سیکھنے کا عمل ایک طریقہ، ریاضیاتی منطق یا الگورتھم ہے جو نیٹ ورک کی کارکردگی اور/یا تربیتی وقت کو بہتر بناتا ہے۔ عام طور پر، یہ قاعدہ نیٹ ورک پر بار بار لاگو ہوتا ہے۔ یہ نیٹ ورک کے وزن اور تعصب کی سطح کو اپ ڈیٹ کرکے کیا جاتا ہے جب کسی نیٹ ورک کو کسی مخصوص ڈیٹا ماحول میں نقل کیا جاتا ہے۔ سیکھنے کا قاعدہ نیٹ ورک کے موجودہ حالات (وزن اور تعصب) کو قبول کر سکتا ہے اور وزن اور تعصب کے لیے نئی اور بہتر اقدار دینے کے لیے نیٹ ورک کے متوقع نتائج اور اصل نتائج کا موازنہ کرے گا۔ اصل ماڈل کی پیچیدگی پر منحصر ہے کہ نیٹ ورک کا سیکھنے کا اصول اتنا ہی آسان ہو سکتا ہے جتنا کہ ایکس او آر گیٹ یا اوسط مربع شدہ غلطی، یا اتنا ہی پیچیدہ ہو سکتا ہے جتنا کہ تفریقی مساوات کے نظام کا نتیجہ۔ سیکھنے کا اصول ان عوامل میں سے ایک ہے جو یہ فیصلہ کرتا ہے کہ مصنوعی نیٹ ورک کو کتنی تیزی سے یا کتنی درست طریقے سے تیار کیا جا سکتا ہے۔ نیٹ ورک تیار کرنے کے عمل پر منحصر ہے کہ مشین لرننگ کے تین اہم ماڈل ہیں: غیر نگرانی شدہ سیکھنے کی نگرانی میں سیکھنے کی مضبوطی سیکھنے کا پس منظر مشین لرننگ میں سیکھنے کے بہت سے طریقے ایک دوسرے سے ملتے جلتے کام کرتے ہیں، اور ایک دوسرے پر مبنی ہوتے ہیں، جس کی وجہ سے انہیں واضح زمروں میں درجہ بندی کرنا مشکل ہو جاتا ہے۔ لیکن ان کو سیکھنے کے طریقوں کے 4 زمروں میں وسیع پیمانے پر سمجھا جا سکتا ہے، حالانکہ ان زمروں کی واضح حدود نہیں ہیں اور ان کا تعلق سیکھنے کے طریقوں کے متعدد زمروں سے ہوتا ہے-ہیبیان-نیوکگنیٹرون، برین اسٹیٹ-ان-اے-باکس گریڈینٹ ڈیسنٹ-ایڈالائن، ہاپ فیلڈ نیٹ ورک، ریکرنٹ نیورل نیٹ ورک کمپٹیٹیو-لرننگ ویکٹر کوانٹائزیشن، سیلف آرگنائزنگ فیچر میپ، اڈاپٹو ریسوننس تھیوری اسٹوچسٹک-بولٹزمین مشین، کاچی مشین۔ یہ بات قابل ذکر ہے کہ اگرچہ سیکھنے کے یہ اصول ایک جیسے خیالات پر مبنی دکھائی دے سکتے ہیں، لیکن ان میں ٹھیک ٹھیک اختلافات ہیں، کیونکہ وہ پچھلے اصول پر عمومی یا اطلاق ہیں، اور اس لیے ان کا الگ سے مطالعہ کرنا سمجھ میں آتا ہے۔ ہیبیئن لرننگ کو ڈونلڈ ہیب نے 1949 میں حیاتیاتی نیوران فائرنگ کو بیان کرنے کے لیے تیار کیا تھا۔ 1950 کی دہائی کے وسط میں اس کا اطلاق عصبی نیٹ ورک کے کمپیوٹر تخروپن پر بھی کیا گیا۔ جہاں سیکھنے کی شرح کی نمائندگی کرتا ہے، نیوران i کے ان پٹ کی نمائندگی کرتا ہے، اور y نیوران کی پیداوار ہے۔ یہ دکھایا گیا ہے کہ ہیب کی حکمرانی اپنی بنیادی شکل میں غیر مستحکم ہے۔ اوجا کا قاعدہ، بی سی ایم تھیوری سیکھنے کے دوسرے اصول ہیں جو حیاتیاتی نیوران کے مطالعہ میں ہیب کے اصول کے اوپر یا اس کے ساتھ بنائے گئے ہیں۔ پرسیپٹرون لرننگ رول (پی ایل آر) پرسیپٹرون لرننگ رول ہیبیائی مفروضے سے نکلتا ہے، اور اسے فرینک روزن بلیٹ نے 1958 میں اپنے پرسیپٹرون میں استعمال کیا تھا۔ نیٹ کو ایکٹیویشن (ٹرانسفر) فنکشن میں منتقل کیا جاتا ہے اور فنکشن کا آؤٹ پٹ وزن کو ایڈجسٹ کرنے کے لیے استعمال ہوتا ہے۔ سیکھنے کا اشارہ مطلوبہ ردعمل اور نیوران کے حقیقی ردعمل کے درمیان فرق ہے۔ اسٹیپ فنکشن اکثر ایکٹیویشن فنکشن کے طور پر استعمال ہوتا ہے، اور آؤٹ پٹ عام طور پر-1، 0، یا 1 تک محدود ہوتے ہیں۔ وزن کو اپ ڈیٹ کیا جاتا ہے جہاں "ٹی" ٹارگٹ ویلیو ہے اور "او" پرسیپٹرون کی آؤٹ پٹ ہے، اور اسے سیکھنے کی شرح کہا جاتا ہے۔ الگورتھم صحیح درجہ بندی میں ضم ہو جاتا ہے اگر: تربیتی ڈیٹا لکیری طور پر علیحدہ ہے * کافی چھوٹا ہے (اگرچہ چھوٹا عام طور پر سیکھنے کا طویل وقت اور زیادہ دور کا مطلب ہے) * یہ بھی نوٹ کیا جانا چاہیے کہ اس سیکھنے کے اصول کے ساتھ ایک واحد پرت پرسیپٹرون لکیری طور پر غیر علیحدہ ان پٹ پر کام کرنے کے قابل نہیں ہے، اور اس وجہ سے ایکس او آر کے مسئلے کو صرف اس اصول کا استعمال کرتے ہوئے حل نہیں کیا جا سکتا ہے۔ 1970 میں بیک پروپیگیشن سیپو لنینما کے بارے میں کہا جاتا ہے کہ اس نے بیک پروپیگیشن الگورتھم تیار کیا تھا لیکن الگورتھم کی ابتدا بہت سے شراکت داروں کے ساتھ 1960 کی دہائی میں ہوئی تھی۔ یہ لکیری پرسیپٹرون اور ڈیلٹا لرننگ رول میں سب سے کم اوسط مربع الگورتھم کی عمومی شکل ہے۔ یہ ہدف کی اقدار اور نیٹ ورک آؤٹ پٹ کے درمیان غلطی کو بار بار کم کرتے ہوئے، جگہ کے ممکنہ نیٹ ورک وزن کے ذریعے گریڈینٹ ڈیسنٹ سرچ کو نافذ کرتا ہے۔ ویڈرو-ہاف لرننگ (ڈیلٹا لرننگ رول) پرسیپٹرون لرننگ رول سے ملتا جلتا ہے لیکن مختلف اصل کے ساتھ۔ یہ ADALAINE نیٹ ورک میں استعمال کے لیے تیار کیا گیا تھا، جو بنیادی طور پر تربیت کے لحاظ سے پرسیپٹرون سے مختلف ہے۔ وزن کو ان پٹ (خالص) کے وزن کے مجموعے کے مطابق ایڈجسٹ کیا جاتا ہے، جبکہ پرسیپٹرون میں وزن کی رقم کا نشان آؤٹ پٹ کا تعین کرنے کے لیے مفید تھا کیونکہ حد 0،-1، یا + 1 مقرر کی گئی تھی۔ یہ ایڈیلائن کو عام پرسیپٹرون سے مختلف بناتا ہے۔ ڈیلٹا رول (ڈی آر) پرسیپٹرون لرننگ رول (پی ایل آر) سے ملتا جلتا ہے، کچھ اختلافات کے ساتھ: ڈی آر میں ایرر (δ) 0، 1، یا-1 (جیسا کہ پی ایل آر میں ہے) کی اقدار تک محدود نہیں ہے، لیکن اس میں کوئی بھی قدر ڈی آر ہو سکتی ہے جو کسی بھی تفریق پذیر آؤٹ پٹ/ایکٹیویشن فنکشن ایف کے لیے حاصل کی جا سکتی ہے، جبکہ پی ایل آر میں صرف دہلیز آؤٹ پٹ فنکشن کے لیے کام کرتا ہے۔ بعض اوقات صرف اس صورت میں جب ویڈرو-ہوف کو خاص طور پر بائنری اہداف پر لاگو کیا جاتا ہے، اسے ڈیلٹا رول کہا جاتا ہے، لیکن اصطلاحات اکثر ایک دوسرے کے بدلے استعمال ہوتی دکھائی دیتی ہیں۔ ڈیلٹا اصول کو بیک-پروپیگنڈاشن الگورتھم کا ایک خاص معاملہ سمجھا جاتا ہے۔ ڈیلٹا قاعدہ بھی ریسکورلا-واگنر ماڈل سے ملتا جلتا ہے جس کے تحت پاولووین کنڈیشنگ ہوتی ہے۔ مسابقتی سیکھنا مسابقتی سیکھنا ہیبیائی سیکھنے کا ایک متغیر سمجھا جاتا ہے، لیکن یہ الگ سے بحث کرنے کے لیے کافی خاص ہے۔ مسابقتی تعلیم نیٹ ورک میں ہر نوڈ کی تخصص کو بڑھا کر کام کرتی ہے۔ یہ ڈیٹا کے اندر کلسٹرز تلاش کرنے کے لیے موزوں ہے۔ مسابقتی تعلیم کے اصول پر مبنی ماڈلز اور الگورتھم میں ویکٹر کوانٹائزیشن اور سیلف آرگنائزنگ میپس (کوہونن میپس) شامل ہیں۔ مشین لرننگ فیصلہ ٹری لرننگ پیٹرن کی شناخت تعصب-تغیر دشواری ایک تخمینہ کار کی تعصب توقع-زیادہ سے زیادہ الگورتھم حوالہ جات مصنوعی عصبی نیٹ ورک سیکھنا