Attractor network
پرکشش نیٹ ورک ایک قسم کا بار بار چلنے والا متحرک نیٹ ورک ہے، جو وقت کے ساتھ ایک مستحکم نمونے کی طرف بڑھتا ہے۔ پرکشش نیٹ ورک میں نوڈس ایک ایسے نمونے کی طرف یکجا ہوتے ہیں جو یا تو فکسڈ پوائنٹ (ایک واحد ریاست)، چکور (باقاعدگی سے بار بار آنے والی حالتوں کے ساتھ)، افراتفری (مقامی طور پر لیکن عالمی سطح پر غیر مستحکم نہیں) یا بے ترتیب (اسٹاکسٹک) ہو سکتے ہیں۔ ایٹریکٹر نیٹ ورک کو بڑی حد تک کمپیوٹیشنل نیورو سائنس میں نیورونل عمل جیسے ایسوسی ایٹیو میموری اور موٹر رویے کے ساتھ ساتھ مشین لرننگ کے حیاتیاتی طور پر متاثر طریقوں کو ماڈل بنانے کے لیے استعمال کیا گیا ہے۔ ایک پرکشش نیٹ ورک n نوڈس کے ایک سیٹ پر مشتمل ہوتا ہے، جسے d جہتی جگہ میں ویکٹر کے طور پر پیش کیا جا سکتا ہے جہاں n> d۔ وقت گزرنے کے ساتھ، نیٹ ورک کی حالت ڈی-مینیفولڈ پر پہلے سے طے شدہ ریاستوں کے ایک سیٹ کی طرف مائل ہوتی ہے۔ یہ پرکشش ہیں۔ پرکشش نیٹ ورکس میں، ایک پرکشش (یا پرکشش سیٹ) ریاستوں A کا ایک بند ذیلی مجموعہ ہے جس کی طرف نوڈس کا نظام تیار ہوتا ہے۔ ایک مستحکم کشش ایک ایسی ریاست یا ریاستوں کا مجموعہ ہے جہاں نیٹ ورک کی عالمی حرکیات مستحکم ہوتی ہیں۔ سائیکلک پرکشش نیٹ ورک کو ایک حد سائیکل میں ریاستوں کے ایک سیٹ کی طرف تیار کرتے ہیں، جو بار بار گزرتا ہے۔ افراتفری والے پرکشش غیر بار بار آنے والے پابند پرکشش ہوتے ہیں جو مسلسل گزرتے رہتے ہیں۔ نیٹ ورک اسٹیٹ اسپیس تمام ممکنہ نوڈ ریاستوں کا مجموعہ ہے۔ پرکشش جگہ پرکشش پر نوڈس کا مجموعہ ہے۔ ایٹریکٹر نیٹ ورک کو ان پٹ پیٹرن کی بنیاد پر شروع کیا جاتا ہے۔ ان پٹ پیٹرن کی جہت نیٹ ورک نوڈس کی جہت سے مختلف ہو سکتی ہے۔ نیٹ ورک کی رفتار ارتقاء کے راستے پر ریاستوں کے مجموعے پر مشتمل ہوتی ہے کیونکہ نیٹ ورک پرکشش حالت کی طرف یکجا ہوتا ہے۔ کشش کا طاس ریاستوں کا مجموعہ ہے جس کے نتیجے میں ایک خاص کشش کی طرف حرکت ہوتی ہے۔ اقسام مختلف قسم کے نیٹ ورک ڈائنامکس کو ماڈل بنانے کے لیے مختلف قسم کے پرکشش استعمال کیے جا سکتے ہیں۔ جبکہ فکسڈ پوائنٹ پرکشش نیٹ ورک سب سے زیادہ عام ہیں (ہاپ فیلڈ نیٹ ورک سے شروع ہوتے ہیں)، دیگر قسم کے نیٹ ورک کی بھی جانچ کی جاتی ہے۔ فکسڈ پوائنٹ پرکشش فکسڈ پوائنٹ پرکشش قدرتی طور پر ہاپ فیلڈ نیٹ ورک سے آتا ہے۔ روایتی طور پر، اس ماڈل میں فکسڈ پوائنٹس انکوڈ شدہ یادوں کی نمائندگی کرتے ہیں۔ ان ماڈلز کو ایسوسی ایٹیو میموری، درجہ بندی، اور پیٹرن کی تکمیل کی وضاحت کے لیے استعمال کیا گیا ہے۔ ہاپ فیلڈ نیٹ میں ایک بنیادی توانائی فنکشن ہوتا ہے جو نیٹ ورک کو غیر علامتی طور پر ایک مستحکم حالت تک پہنچنے کی اجازت دیتا ہے۔ پوائنٹ پرکشش نیٹ ورک کی ایک کلاس کو ان پٹ کے ساتھ شروع کیا جاتا ہے، جس کے بعد ان پٹ کو ہٹا دیا جاتا ہے اور نیٹ ورک مستحکم حالت کی طرف بڑھتا ہے۔ پرکشش نیٹ ورک کی ایک اور کلاس میں پہلے سے طے شدہ وزن کی خصوصیات ہیں جن کی جانچ مختلف قسم کے ان پٹ کے ذریعے کی جاتی ہے۔ اگر یہ مستحکم حالت ان پٹ کے دوران اور بعد میں مختلف ہے، تو یہ ایسوسی ایٹیو میموری کے ماڈل کے طور پر کام کرتی ہے۔ تاہم، اگر ان پٹ کے دوران اور بعد کی ریاستیں مختلف نہیں ہیں، تو نیٹ ورک کو پیٹرن کی تکمیل کے لیے استعمال کیا جا سکتا ہے۔ اوکولوموٹر کنٹرول کے مطالعہ میں دیگر اسٹیشنری پرکشش لائن پرکشش اور طیارہ پرکشش استعمال کیے جاتے ہیں۔ یہ لائن پرکشش، یا نیورل انٹیگریٹر، محرکات کے جواب میں آنکھ کی پوزیشن کو بیان کرتے ہیں۔ چوہوں کے سر کی سمت کو ماڈل بنانے کے لیے رنگ پرکشش کا استعمال کیا گیا ہے۔ سائیکلک پرکشش مرکزی پیٹرن جنریٹرز، نیوران جو چبانے، چلنے اور سانس لینے جیسے جانوروں میں ارتعاش کی سرگرمی کو کنٹرول کرتے ہیں، کے ماڈلنگ میں اہم کردار ادا کرتے ہیں۔ افراتفری کشش افراتفری کشش (جسے عجیب کشش بھی کہا جاتا ہے) بو کی شناخت میں نمونوں کی عکاسی کرنے کے لیے قیاس کیا گیا ہے۔ اگرچہ افراتفری والے پرکشش افراد کو حد کے چکروں پر زیادہ تیزی سے یکجا ہونے کا فائدہ ہوتا ہے، لیکن اس نظریہ کی حمایت کرنے کے لیے ابھی تک کوئی تجرباتی ثبوت موجود نہیں ہے۔ مسلسل پرکشش (مسلسل پرکشش نیورل نیٹ ورک بھی کہا جاتا ہے) کے پڑوسی مستحکم ریاستیں (فکس پوائنٹس) ایک مسلسل متغیر کی پڑوسی اقدار کے لیے کوڈ جیسے کہ سر کی سمت یا خلا میں اصل پوزیشن۔ رنگ پرکشش نیوران کی ایک خاص ٹوپولوجی کے ساتھ مسلسل پرکشش کی ایک ذیلی قسم (1 جہتی کے لیے رنگ اور 2 جہتی نیٹ ورک کے لیے ٹورس یا موڑ دار ٹورس)۔ گرڈ خلیوں کی مشاہدہ شدہ سرگرمی کو درمیانی اینٹورہنل پرانتستا میں رنگ پرکششوں کی موجودگی کو فرض کرکے کامیابی کے ساتھ سمجھایا جاتا ہے۔ حال ہی میں، یہ تجویز کیا گیا ہے کہ اسی طرح کے رنگ پرکشش اینٹورہنل پرانتستا کے پس منظر والے حصے میں موجود ہیں اور ان کا کردار نئی قسطوں کی یادوں کو درج کرنے تک پھیلا ہوا ہے۔ نفاذ ایٹریکٹر نیٹ ورک کو بنیادی طور پر فکسڈ پوائنٹ پرکشش کا استعمال کرتے ہوئے میموری ماڈل کے طور پر نافذ کیا گیا ہے۔ تاہم، پرکشش زمین کی تزئین اور نیٹ ورک وائرنگ کو ڈیزائن کرنے میں دشواریوں کی وجہ سے وہ کمپیوٹیشنل مقاصد کے لیے بڑی حد تک ناقابل عمل رہے ہیں، جس کے نتیجے میں جعلی پرکشش اور کشش کے ناقص حالت والے طاس ہوتے ہیں۔ مزید برآں، پرکشش نیٹ ورکس پر تربیت عام طور پر کمپیوٹیشنل طور پر مہنگی ہوتی ہے، دوسرے طریقوں جیسے کے-قریب پڑوسی درجہ بندی کے مقابلے میں۔ تاہم، مختلف حیاتیاتی افعال، جیسے لوکوموٹر فنکشن، میموری، فیصلہ سازی، کے بارے میں عمومی تفہیم میں ان کا کردار، انہیں حیاتیاتی طور پر حقیقت پسندانہ نمونوں کے طور پر زیادہ پرکشش بناتا ہے۔ ہاپ فیلڈ نیٹ ورک ہاپ فیلڈ پرکشش نیٹ ورک ایسوسی ایٹیو میموری کے ساتھ پرکشش نیٹ ورک کا ابتدائی نفاذ ہے۔ یہ بار بار چلنے والے نیٹ ورک ان پٹ کے ذریعے شروع کیے جاتے ہیں، اور ایک فکسڈ پوائنٹ پرکشش کی طرف مائل ہوتے ہیں۔ مجرد وقت میں اپ ڈیٹ فنکشن ہے، جہاں نیٹ ورک میں نوڈس کا ویکٹر ہے اور ان کی کنیکٹوٹی کو بیان کرنے والا ایک سمیٹرک میٹرکس ہے۔ مسلسل ٹائم اپ ڈیٹ ہے۔ دو طرفہ نیٹ ورک ہاپ فیلڈ نیٹ ورک سے ملتے جلتے ہیں، خاص صورت یہ ہے کہ میٹرکس ایک بلاک میٹرکس ہے۔ مقامی پرکشش نیٹ ورک زیمیل اور موزر (2001) نے نیٹ ورک میں ہر کنکشن کے ذریعے متعدد پرکشش افراد کی انکوڈنگ سے پیدا ہونے والے جعلی پرکشش افراد کی تعداد کو کم کرنے کے لیے ایک طریقہ تجویز کیا۔ مقامی پرکشش نیٹ ورک نیٹ ورک میں آزاد توانائی کو کم سے کم کرنے اور صرف سب سے زیادہ متعلقہ پرکشش کو یکجا کرنے کے لیے پرکشش کی نمائندگی کرنے والے گوسیوں کے مرکب پر ایک توقع-زیادہ سے زیادہ الگورتھم کو نافذ کرکے مقامی طور پر علم کو انکوڈ کرتے ہیں۔ اس کے نتیجے میں درج ذیل اپ ڈیٹ مساوات سامنے آتی ہیں: پرکششوں کی سرگرمی کا تعین کریں: نیٹ ورک کی اگلی حالت کا تعین کریں: نیٹ ورک کے ذریعے پرکشش چوڑائی کا تعین کریں: (بیسن کی طاقت کو ظاہر کرتا ہے، بیسن کے مرکز کو ظاہر کرتا ہے۔ نیٹ پر ان پٹ کی نشاندہی کرتا ہے، ایک غیر معمول شدہ گوسی تقسیم ہے جس کا مرکز اور معیاری انحراف کے برابر ہے۔) اس کے بعد نیٹ ورک کا دوبارہ مشاہدہ کیا جاتا ہے، اور مندرجہ بالا مراحل کنورجنس تک دہرائے جاتے ہیں۔ یہ ماڈل حیاتیاتی طور پر متعلقہ دو تصورات کی بھی عکاسی کرتا ہے۔ حال ہی میں دیکھے گئے پرکشش کی طرف تیزی سے ہم آہنگی کی اجازت دے کر ماڈلز میں تبدیلی محرک پرائمنگ۔ مزید برآں، پرکششوں کی خلاصہ سرگرمی ایک گینگ اثر کی اجازت دیتی ہے جس کی وجہ سے دو قریبی پرکشش دوسرے کے طاس کو باہمی طور پر مضبوط کرتے ہیں۔ ریکونسولیڈیشن پرکشش نیٹ ورکس سیگل مین (2008) نے مقامی پرکشش نیٹ ورک ماڈل کو عام کیا تاکہ خود کشش کی ٹیوننگ کو شامل کیا جا سکے۔ یہ الگورتھم مندرجہ ذیل ترمیمات کے ساتھ اوپر ای ایم طریقہ استعمال کرتا ہے: (1) الگورتھم کا جلد خاتمہ جب پرکشش کی سرگرمی سب سے زیادہ تقسیم ہوتی ہے، یا جب اعلی اینٹروپی اضافی یادوں کی ضرورت کا مشورہ دیتی ہے، اور (2) پرکشش کو خود اپ ڈیٹ کرنے کی صلاحیت:، کی تبدیلی کا مرحلہ سائز کا پیمانہ کہاں ہے۔ یہ نمونہ جانوروں میں یادداشت کے دوبارہ استحکام کی عکاسی کرتا ہے، اور کچھ ایسی ہی حرکیات کو ظاہر کرتا ہے جو میموری کے تجربات میں پائی جاتی ہیں۔ پرکشش نیٹ ورکس میں مزید پیش رفت، جیسے کہ دانا پر مبنی پرکشش نیٹ ورک، نے سیکھنے کے الگورتھم کے طور پر پرکشش نیٹ ورکس کی کمپیوٹیشنل فزیبلٹی کو بہتر بنایا ہے، جبکہ پیچیدہ ساختیاتی ڈھانچوں پر پیٹرن کی تکمیل انجام دینے کے لیے اعلی سطح کی لچک کو برقرار رکھا ہے۔ حوالہ جات نیٹ ورک