Spiking neural network
اسپائکنگ نیورل نیٹ ورک (ایس این این) مصنوعی نیورل نیٹ ورک ہیں جو قدرتی نیورل نیٹ ورک کی زیادہ قریب سے نقل کرتے ہیں۔ نیورونل اور سنپیٹک حالت کے علاوہ، ایس این این اپنے آپریٹنگ ماڈل میں وقت کے تصور کو شامل کرتے ہیں۔ خیال یہ ہے کہ ایس این این میں نیوران ہر پھیلاؤ کے چکر میں معلومات منتقل نہیں کرتے ہیں (جیسا کہ یہ عام کثیر پرت پرسیپٹرون نیٹ ورکس کے ساتھ ہوتا ہے)، بلکہ صرف اس وقت معلومات منتقل کرتے ہیں جب جھلی کی صلاحیت-اس کی جھلی برقی چارج سے متعلق نیوران کا ایک اندرونی معیار-ایک مخصوص قدر تک پہنچ جاتا ہے، جسے دہلیز کہا جاتا ہے۔ جب جھلی کی صلاحیت حد تک پہنچ جاتی ہے، تو نیوران فائر کرتا ہے، اور ایک سگنل پیدا کرتا ہے جو دوسرے نیوران کا سفر کرتا ہے، جس کے نتیجے میں، اس سگنل کے جواب میں ان کی صلاحیت میں اضافہ یا کمی ہوتی ہے۔ ایک نیوران ماڈل جو حد عبور کرنے کے وقت فائر کرتا ہے اسے اسپائکنگ نیوران ماڈل بھی کہا جاتا ہے۔ سب سے نمایاں اسپائکنگ نیوران ماڈل لیکئی انٹیگریٹ اینڈ فائر ماڈل ہے۔ انٹیگریٹ اینڈ فائر ماڈل میں، مومینٹری ایکٹیویشن لیول (ایک تفریقی مساوات کے طور پر ماڈل کیا گیا) کو عام طور پر نیوران کی حالت سمجھا جاتا ہے، جس میں آنے والے اسپائکس اس قدر کو زیادہ یا کم کرتے ہیں، یہاں تک کہ حالت بالآخر یا تو ختم ہو جاتی ہے یا-اگر فائرنگ کی حد تک پہنچ جاتی ہے-نیوران میں آگ لگ جاتی ہے۔ فائر کرنے کے بعد، ریاستی متغیر کو کم قیمت پر دوبارہ ترتیب دیا جاتا ہے۔ باہر جانے والی اسپائیک ٹرین کو حقیقی قیمت والے نمبر کے طور پر سمجھنے کے لیے مختلف ڈیکوڈنگ کے طریقے موجود ہیں، جو یا تو اسپائکس کی فریکوئنسی (ریٹ کوڈ)، محرک کے بعد ٹائم ٹو فرسٹ اسپائیک، یا اسپائکس کے درمیان وقفے پر انحصار کرتے ہیں۔ بہت سے کثیر پرت والے مصنوعی عصبی نیٹ ورک مکمل طور پر جڑے ہوئے ہیں، جو پچھلی پرت میں ہر نیوران سے ان پٹ وصول کرتے ہیں اور بعد کی پرت میں ہر نیوران کو اشارہ کرتے ہیں۔ اگرچہ ان نیٹ ورکس نے بہت سے شعبوں میں کامیابیاں حاصل کی ہیں، لیکن وہ حیاتیاتی طور پر غلط ہیں اور کسی زندہ چیز کے دماغ میں نیوران کے آپریشن میکانزم کی نقل نہیں کرتے ہیں۔ سپائکنگ نیوران کا حیاتیاتی طور پر متاثر ہڈکن-ہکسلے ماڈل 1952 میں تجویز کیا گیا تھا۔ یہ ماڈل بیان کرتا ہے کہ ایکشن پوٹینشل کس طرح شروع اور پھیلائے جاتے ہیں۔ نیوران کے درمیان مواصلات، جس کے لیے سنپیٹک گیپ میں کیمیائی نیورو ٹرانسمیٹر کے تبادلے کی ضرورت ہوتی ہے، مختلف ماڈلز میں بیان کیا گیا ہے، جیسے انٹیگریٹ اینڈ فائر ماڈل، فٹز ہگ-ناگمو ماڈل (1961-1962)، اور ہندمارش-روز ماڈل (1984)۔ لیکئی انٹیگریٹ اینڈ فائر ماڈل (یا مشتق) عام طور پر استعمال ہوتا ہے کیونکہ ہڈکن-ہکسلے ماڈل کے مقابلے میں اس کا حساب لگانا آسان ہے۔ دماغ میں زیر اثر معلومات کو ایکشن پوٹینشلز (نیوران اسپائکس) کے طور پر پیش کیا جاتا ہے، جنہیں اسپائیک ٹرینوں یا یہاں تک کہ دماغی سرگرمی کی مربوط لہروں میں گروپ کیا جا سکتا ہے۔ نیورو سائنس کا ایک بنیادی سوال یہ طے کرنا ہے کہ آیا نیوران شرح یا عارضی کوڈ کے ذریعے بات چیت کرتے ہیں۔ عارضی کوڈنگ سے پتہ چلتا ہے کہ ایک واحد اسپائکنگ نیوران سگمائڈل نیورل نیٹ پر سینکڑوں چھپی ہوئی اکائیوں کی جگہ لے سکتا ہے۔ ایک ایس این این مجرد ڈومین کے بجائے مسلسل میں حساب کرتا ہے۔ خیال یہ ہے کہ نیوران پھیلاؤ کے ہر تکرار میں فعال ہونے کی جانچ نہیں کر سکتے ہیں (جیسا کہ ایک عام ملٹی لیئر پرسیپٹرون نیٹ ورک میں ہوتا ہے)، لیکن صرف اس صورت میں جب ان کی جھلی کی صلاحیت ایک خاص قدر تک پہنچ جائے۔ جب ایک نیوران فعال ہوتا ہے، تو یہ ایک سگنل پیدا کرتا ہے جو منسلک نیوران کو منتقل ہوتا ہے، ان کی جھلی کی صلاحیت کو بڑھاتا یا کم کرتا ہے۔ اسپائکنگ نیورل نیٹ ورک میں، ایک نیوران کی موجودہ حالت کو اس کی جھلی کی صلاحیت کے طور پر بیان کیا جاتا ہے (ممکنہ طور پر ایک تفریقی مساوات کے طور پر ماڈل کیا گیا ہے)۔ ایک ان پٹ پلس جھلی کی صلاحیت کو ایک مدت کے لیے بڑھنے اور پھر آہستہ آہستہ کم ہونے کا سبب بنتا ہے۔ نبض کی تعدد اور نبض کے وقفے دونوں کو مدنظر رکھتے ہوئے ان نبض کے سلسلے کو ایک نمبر کے طور پر سمجھنے کے لیے انکوڈنگ اسکیمیں بنائی گئی ہیں۔ پلس جنریشن ٹائم پر مبنی ایک نیورل نیٹ ورک ماڈل قائم کیا جا سکتا ہے۔ نبض کے واقع ہونے کے صحیح وقت کا استعمال کرتے ہوئے، ایک عصبی نیٹ ورک مزید معلومات کا استعمال کر سکتا ہے اور کمپیوٹنگ کی بہتر خصوصیات پیش کر سکتا ہے۔ ایس این این نقطہ نظر روایتی اے این این کے بائنری آؤٹ پٹ کے بجائے مسلسل آؤٹ پٹ پیدا کرتا ہے۔ پلس ٹرینوں کی آسانی سے تشریح نہیں کی جا سکتی، اس لیے اوپر کی طرح انکوڈنگ اسکیموں کی ضرورت ہے۔ تاہم، پلس ٹرین کی نمائندگی اسپاٹیوٹیمپورل ڈیٹا (یا مسلسل حقیقی دنیا کے حسی ڈیٹا کی درجہ بندی) کی پروسیسنگ کے لیے زیادہ موزوں ہو سکتی ہے۔ ایس این این نیوران کو صرف قریبی نیوران سے جوڑ کر جگہ پر غور کرتے ہیں تاکہ وہ ان پٹ بلاکس کو الگ سے پروسیس کریں (فلٹرز کا استعمال کرتے ہوئے سی این این کی طرح)۔ وہ معلومات کو انکوڈنگ کرکے وقت کو پلس ٹرین سمجھتے ہیں تاکہ بائنری انکوڈنگ میں معلومات ضائع نہ ہوں۔ یہ بار بار آنے والے نیورل نیٹ ورک (آر این این) کی اضافی پیچیدگی سے بچتا ہے۔ یہ پتہ چلتا ہے کہ امپلس نیوران روایتی مصنوعی نیوران کے مقابلے میں زیادہ طاقتور کمپیوٹیشنل اکائیاں ہیں۔ ایس این این نظریاتی طور پر دوسری نسل کے نیٹ ورک سے زیادہ طاقتور ہیں [اصطلاح غیر متعین: دوسری نسل کے نیٹ ورک کیا ہیں؟ ] ؛ تاہم، ایس این این ٹریننگ کے مسائل اور ہارڈ ویئر کی ضروریات ان کے استعمال کو محدود کرتی ہیں۔ اگرچہ غیر نگرانی شدہ حیاتیاتی طور پر متاثر سیکھنے کے طریقے دستیاب ہیں جیسے ہیبیئن لرننگ اور ایس ٹی ڈی پی، ایس این این کے لیے کوئی موثر نگرانی شدہ تربیتی طریقہ موزوں نہیں ہے جو دوسری نسل کے نیٹ ورک سے بہتر کارکردگی فراہم کر سکے۔ ایس این این کی سپائیک پر مبنی ایکٹیویشن تفریق کے قابل نہیں ہے اس طرح ایرر بیک پروپیگیشن انجام دینے کے لیے گریڈینٹ ڈیسنٹ پر مبنی تربیتی طریقوں کو تیار کرنا مشکل ہو جاتا ہے، حالانکہ کچھ حالیہ الگورتھم جیسے نارماڈ اور ملٹی لیئر نارماڈ نے اسپائیک پر مبنی ایکٹیویشن کے گریڈینٹ کے مناسب تخمینے کے ذریعے اچھی تربیتی کارکردگی کا مظاہرہ کیا ہے۔ ایس این این میں روایتی اے این این کے مقابلے حقیقت پسندانہ عصبی ماڈلز کی تقلید کے لیے بہت زیادہ کمپیوٹیشنل لاگت ہوتی ہے۔ پلس-کپلڈ نیورل نیٹ ورک (پی سی این این) اکثر ایس این این کے ساتھ الجھ جاتے ہیں۔ پی سی این این کو ایک قسم کے ایس این این کے طور پر دیکھا جا سکتا ہے۔ فی الحال ایس این این کا استعمال کرتے وقت کچھ چیلنجز ہیں جن پر محققین فعال طور پر کام کر رہے ہیں۔ پہلا چیلنج اسپائکنگ نان لائنیرٹی کی غیر تفریق سے متعلق ہے۔ فارورڈ-اور بیکورڈ-لرننگ دونوں طریقوں کے تاثرات میں نیورل ایکٹیویشن فنکشن کا مشتق ہوتا ہے جو کہ غیر تفریق پذیر ہوتا ہے کیونکہ نیوران کا آؤٹ پٹ یا تو 1 ہوتا ہے جب یہ بڑھتا ہے، اور بصورت دیگر 0 ہوتا ہے۔ بائنری اسپائکنگ نان لائنیرٹی کا یہ تمام یا کچھ بھی نہیں طرز عمل گریڈینٹس کو "بہاؤ" سے روکتا ہے اور ایل آئی ایف نیوران کو گریڈینٹ پر مبنی اصلاح کے لیے غیر موزوں بنا دیتا ہے۔ دوسرا چیلنج خود اصلاح کے الگورتھم کے نفاذ سے متعلق ہے۔ معیاری بی پی کمپیوٹیشن، میموری اور مواصلات کے لحاظ سے مہنگا ہو سکتا ہے اور اسے نافذ کرنے والے ہارڈ ویئر (جیسے کمپیوٹر، دماغ، یا نیورومورفک ڈیوائس) کی طرف سے مقرر کردہ رکاوٹوں کے لیے ناقص طور پر موزوں ہو سکتا ہے۔ پہلے چیلنج کے حوالے سے اس پر قابو پانے کے لیے کئی طریقے اختیار کیے گئے ہیں۔ ان میں سے کچھ یہ ہیں: پوشیدہ اکائیوں کے لیے مکمل طور پر حیاتیاتی طور پر متاثر مقامی سیکھنے کے قوانین کا سہارا لینا جو روایتی طور پر تربیت یافتہ "شرح پر مبنی" این این کو ایس این این میں ترجمہ کرتے ہیں، نیٹ ورک ماڈل کو ہموار کرتے ہوئے ایس جی (سروگیٹ گریڈینٹ) کو حقیقی گریڈینٹس کی مسلسل نرمی کے طور پر بیان کرتے ہوئے مسلسل تفریق پذیر بناتے ہیں۔ اس کے علاوہ، ایس این این حیاتیاتی حیاتیات کے مرکزی اعصابی نظام کا نمونہ بن سکتے ہیں، جیسے کہ ایک کیڑا جو ماحول کے پیشگی علم کے بغیر خوراک کی تلاش کرتا ہے۔ ان کی رشتہ دار حقیقت پسندی کی وجہ سے، انہیں حیاتیاتی عصبی سرکٹس کے عمل کا مطالعہ کرنے کے لیے استعمال کیا جا سکتا ہے۔ حیاتیاتی نیورونل سرکٹ کی ٹوپولوجی اور اس کے فنکشن کے بارے میں ایک مفروضے سے شروع کرتے ہوئے، اس سرکٹ کی ریکارڈنگ کا موازنہ متعلقہ ایس این این کے آؤٹ پٹ سے کیا جا سکتا ہے، جس سے مفروضے کی امکانات کا اندازہ ہوتا ہے۔ تاہم، ایس این این کے لیے موثر تربیتی طریقہ کار کی کمی ہے، جو کمپیوٹر وژن کے کاموں سمیت کچھ ایپلی کیشنز کے لیے رکاوٹ بن سکتا ہے۔ 2019 تک ایس این این درستگی کے لحاظ سے اے این این سے پیچھے ہیں، لیکن فرق کم ہو رہا ہے، اور کچھ کاموں پر غائب ہو گیا ہے۔ تصویر پر مبنی ڈیٹا کے لیے ایس این این کا استعمال کرتے وقت ہمیں جامد تصاویر کو بائنری اسپائیک ٹرینوں کی کوڈنگ میں تبدیل کرنے کی ضرورت ہے۔ انکوڈنگ کی اقسام: عارضی کوڈنگ فی نیوران ایک اسپائیک پیدا کرتی ہے جس میں اسپائیک لیٹینسی پکسل کی شدت کے الٹا متناسب ہوتی ہے۔ ریٹ کوڈنگ پکسل کی شدت کو اسپائیک ٹرین میں تبدیل کرتی ہے جہاں اسپائکس کی تعداد پکسل کی شدت کے متناسب ہوتی ہے۔ براہ راست کوڈنگ ہر وقت کے مرحلے کے لیے فلوٹ ویلیو پیدا کرنے کے لیے ایک قابل تربیت پرت کا استعمال کرتی ہے۔ ہمارے پاس ایک قابل سیکھنے والی پرت ہے جو ہر پکسل کو فلوٹ نمبر میں مخصوص وقت کے مرحلے پر تبدیل کرتی ہے اور پھر تیار شدہ فلوٹنگ نمبروں پر یہ دیکھنے کے لیے تھریشولڈ استعمال کیا جاتا ہے کہ آیا وہ 1 یا 0 ہوں گے۔ فیز کوڈنگ عارضی معلومات کو گلوبل آسکیلیٹر کی بنیاد پر اسپائیک پیٹرن میں انکوڈ کرتی ہے۔ برسٹ کوڈنگ چھوٹے عرصے میں اسپائکس کے پھٹنے کو منتقل کرتی ہے، جس سے نیوران کے درمیان سنپیٹک مواصلات کی وشوسنییتا میں اضافہ ہوتا ہے۔ سافٹ ویئر ایپلیکیشن سافٹ ویئر کی ایک متنوع رینج ایس این این کی تقلید کر سکتی ہے۔ اس سافٹ ویئر کو اس کے استعمال کے مطابق درجہ بندی کیا جا سکتا ہے: ایس این این تخروپن یہ پیچیدہ عصبی ماڈلز کو اعلی سطح کی تفصیل اور درستگی کے ساتھ نقل کرتے ہیں۔ بڑے نیٹ ورک کو عام طور پر طویل پروسیسنگ کی ضرورت ہوتی ہے۔ امیدواروں میں شامل ہیں: برائن-ایکول نارمل سپیریئر میں رومان بریٹ اور ڈین گڈ مین کے ذریعہ تیار کردہ ؛ جینسیس (جینرل نیورل سمیلیشن سسٹم)-کیلٹیک میں جیمز بوور کی لیبارٹری میں تیار کیا گیا ؛ NEST-NEST انیشی ایٹو کے ذریعہ تیار کیا گیا ؛ نیورون-بنیادی طور پر مائیکل ہائنز، جان ڈبلیو مور اور ییل یونیورسٹی اور ڈیوک یونیورسٹی میں ٹیڈ کارنویل کے ذریعہ تیار کیا گیا ؛ ہارڈ ویئر فیوچر نیورومورفک آرکیٹیکچرز اربوں ایسے نینوسیناپسز پر مشتمل ہوں گے، جن میں پلاسٹکٹی کے ذمہ دار جسمانی میکانزم کی واضح تفہیم کی ضرورت ہوتی ہے۔ فیرو الیکٹرک ٹنل جنکشن پر مبنی تجرباتی نظاموں کا استعمال یہ ظاہر کرنے کے لیے کیا گیا ہے کہ ایس ٹی ڈی پی کو متنوع پولرائزیشن سوئچنگ سے استعمال کیا جا سکتا ہے۔ مشترکہ اسکیننگ پروب امیجنگ، برقی نقل و حمل اور جوہری پیمانے کے سالماتی حرکیات کے ذریعے، چالکتا کے تغیرات کو ڈومینز کے نیوکلیئشن-ڈومینٹڈ ریورسل کے ذریعے ماڈل کیا جا سکتا ہے۔ تخروپن سے پتہ چلتا ہے کہ فیرو الیکٹرک نانوسینیپس کی صفوں خود مختار طریقے سے نمونوں کو قابل پیش گوئی طریقے سے پہچاننا سیکھ سکتی ہیں، جس سے غیر نگرانی شدہ سیکھنے کی راہ کھل جاتی ہے۔ اکیڈا ایک مکمل طور پر ڈیجیٹل ایونٹ پر مبنی نیورل پروسیسنگ ڈیوائس ہے جس میں 12 لاکھ مصنوعی نیوران اور 10 ارب مصنوعی مطابقت پذیری ہیں جنہیں برین چپ نے تیار کیا ہے۔ واقعہ پر مبنی ملکیت کا استعمال کرتے ہوئے، یہ مخصوص نکات پر ضروری ان پٹ کا تجزیہ کرتا ہے۔ نتائج آن چپ میموری یونٹس میں محفوظ کیے جاتے ہیں۔ نیورو گرڈ ایک ایسا بورڈ ہے جو ہارڈ ویئر میں براہ راست اسپائکنگ نیورل نیٹ ورک کی تقلید کر سکتا ہے۔ (اسٹینفورڈ یونیورسٹی) اسپائن نیکر (اسپائکنگ نیورل نیٹ ورک آرکیٹیکچر) اے آر ایم پروسیسرز کو چھ پرت والے تھیلاموکورٹیکل ماڈل پر مبنی بڑے پیمانے پر متوازی کمپیوٹنگ پلیٹ فارم کے بلڈنگ بلاکس کے طور پر استعمال کرتا ہے۔ (مانچسٹر یونیورسٹی) اسپائن نیکر سسٹم اے آر ایم فن تعمیر کا استعمال کرتے ہوئے کسٹم ڈیجیٹل ملٹی کور چپس پر حقیقی وقت میں چلنے والے عددی ماڈلز پر مبنی ہے۔ یہ اپنی مرضی کے مطابق ڈیجیٹل چپس فراہم کرتا ہے، ہر ایک اٹھارہ کور اور ایک مشترکہ مقامی 128 ایمبیٹ ریم کے ساتھ، جس میں کل 1,000,000 سے زیادہ کور ہوتے ہیں۔ ایک چپ حقیقی وقت میں چلنے والے 80 لاکھ پلاسٹک سنپیپس کے ساتھ 16,000 نیوران کی تقلید کر سکتی ہے۔ ٹرو نارتھ ایک ایسا پروسیسر ہے جس میں 5.4 بلین ٹرانجسٹرز ہوتے ہیں جو صرف 70 ملی واٹ استعمال کرتے ہیں۔ پرسنل کمپیوٹرز میں زیادہ تر پروسیسرز تقریبا 1.4 بلین ٹرانجسٹرز پر مشتمل ہوتے ہیں اور 35 واٹ یا اس سے زیادہ کی ضرورت ہوتی ہے۔ آئی بی ایم ٹرو نارتھ کے پیچھے ڈیزائن کے اصول کو نیورومورفک کمپیوٹنگ کے طور پر حوالہ دیتا ہے۔ اس کا بنیادی مقصد پیٹرن کی شناخت ہے۔ اگرچہ ناقدین کا کہنا ہے کہ چپ کافی طاقتور نہیں ہے، لیکن اس کے حامی بتاتے ہیں کہ یہ صرف پہلی نسل ہے، اور بہتر تکرار کی صلاحیتیں واضح ہو جائیں گی۔ (آئی بی ایم) غیر نگرانی شدہ سیکھنے کے طریقوں کے مطابق تربیت یافتہ اسپائکنگ نیٹ ورکس کی درجہ بندی کی صلاحیتوں کو عام بینچ مارک ڈیٹا سیٹس، جیسے ایرس، وسکونسن بریسٹ کینسر یا اسٹیٹلاگ لینڈسیٹ ڈیٹا سیٹ پر آزمایا گیا ہے۔ انفارمیشن انکوڈنگ اور نیٹ ورک ڈیزائن کے لیے مختلف طریقوں کا استعمال کیا گیا ہے۔ مثال کے طور پر، ڈیٹا کلسٹرنگ اور درجہ بندی کے لیے 2 پرتوں والا فیڈ فارورڈ نیٹ ورک۔ ہاپ فیلڈ (1995) میں تجویز کردہ خیال کی بنیاد پر مصنفین نے مقامی رسیپٹو فیلڈز کے ماڈل نافذ کیے جو ریڈیل بیس افعال (آر بی ایف) اور اسپائکنگ نیوران کی خصوصیات کو یکجا کرتے ہیں تاکہ فلوٹنگ پوائنٹ کی نمائندگی والے ان پٹ سگنلز (کلاسیفائیڈ ڈیٹا) کو اسپائکنگ نمائندگی میں تبدیل کیا جا سکے۔ کوڈی علمی فن تعمیر علمی نقشہ علمی کمپیوٹر کمپیوٹیشنل نیورو سائنس نیورل کوڈنگ نیورل ارتباط نیورل ڈیکوڈنگ نیوروتھولوجی نیورو انفارمیٹکس ماڈل آف نیورل کمپیوٹیشن موشن پرسیپشن سسٹمز نیورو سائنس حوالہ جات کمپیوٹیشنل شماریات مصنوعی عصبی نیٹ ورک ویڈیو کلپس پر مشتمل مضامین کمپیوٹیشنل نیورو سائنس