Deep learning
ڈیپ لرننگ مشین لرننگ کے طریقوں کا ذیلی مجموعہ ہے جو نمائندگی سیکھنے کے ساتھ مصنوعی عصبی نیٹ ورک پر مبنی ہوتے ہیں۔ ڈیپ لرننگ میں صفت "ڈیپ" سے مراد نیٹ ورک میں متعدد تہوں کا استعمال ہے۔ استعمال کیے جانے والے طریقے یا تو زیر نگرانی، نیم زیر نگرانی یا غیر زیر نگرانی ہو سکتے ہیں۔ ڈیپ لرننگ آرکیٹیکچرز جیسے ڈیپ نیورل نیٹ ورکس، ڈیپ ٹرسٹ نیٹ ورکس، ڈیپ رینفورمیشن لرننگ، ریکرنٹ نیورل نیٹ ورکس، کنوولوشنل نیورل نیٹ ورکس اور ٹرانسفارمرز کا اطلاق کمپیوٹر وژن، اسپیچ ریکگنیشن، نیچرل لینگویج پروسیسنگ، مشین ٹرانسلیشن، بائیو انفارمیٹکس، ڈرگ ڈیزائن، میڈیکل امیج اینالیسس، کلائمیٹ سائنس، میٹریل انسپیکشن اور بورڈ گیم پروگرامز جیسے شعبوں میں کیا گیا ہے، جہاں انہوں نے انسانی ماہر کی کارکردگی سے موازنہ کرنے والے اور بعض صورتوں میں اس سے آگے نکل جانے والے نتائج پیش کیے ہیں۔ مصنوعی عصبی نیٹ ورک (اے این این) حیاتیاتی نظاموں میں انفارمیشن پروسیسنگ اور تقسیم شدہ مواصلاتی نوڈس سے متاثر تھے۔ اے این این کے حیاتیاتی دماغوں سے مختلف فرق ہوتے ہیں۔ خاص طور پر، مصنوعی عصبی نیٹ ورک جامد اور علامتی ہوتے ہیں، جبکہ زیادہ تر جانداروں کا حیاتیاتی دماغ متحرک (پلاسٹک) اور ینالاگ ہوتا ہے۔ ڈیپ لرننگ مشین لرننگ الگورتھم کی ایک کلاس ہے جو خام ان پٹ سے اعلی سطح کی خصوصیات کو بتدریج نکالنے کے لیے متعدد تہوں کا استعمال کرتی ہے۔ مثال کے طور پر، امیج پروسیسنگ میں، نچلی پرتیں کناروں کی شناخت کر سکتی ہیں، جبکہ اونچی پرتیں انسان سے متعلق تصورات کی شناخت کر سکتی ہیں جیسے ہندسوں یا حروف یا چہروں کی۔ گہری سیکھنے کو دیکھنے کے لیے ایک اور زاویے سے، گہری سیکھنے سے مراد "کمپیوٹر-سمیلیٹ" یا "خودکار" انسانی سیکھنے کے عمل کو ایک ماخذ (مثال کے طور پر کتوں کی تصویر) سے سیکھے ہوئے شے (کتوں) تک پہنچانا ہے۔ لہذا، "گہری" سیکھنے یا "گہری" سیکھنے کے طور پر وضع کردہ تصور سمجھ میں آتا ہے۔ گہری سیکھنے سے مراد کسی ماخذ سے کسی حتمی سیکھے گئے مقصد تک مکمل طور پر خودکار سیکھنا ہے۔ اس طرح گہری سیکھنے سے مراد ایک مخلوط سیکھنے کا عمل ہے: ایک ماخذ سے سیکھے ہوئے نیم شے تک انسانی سیکھنے کا عمل، جس کے بعد انسانی سیکھے ہوئے نیم شے سے لے کر حتمی سیکھے ہوئے شے تک کمپیوٹر سیکھنے کا عمل ہوتا ہے۔ زیادہ تر جدید ڈیپ لرننگ ماڈل ملٹی لیئرڈ مصنوعی نیورل نیٹ ورکس جیسے کنوولوشنل نیورل نیٹ ورکس اور ٹرانسفارمرز پر مبنی ہوتے ہیں، حالانکہ ان میں پروپوزیشنل فارمولے یا لیٹنٹ متغیرات بھی شامل ہو سکتے ہیں جو گہرے جنریٹو ماڈلز میں پرت کے لحاظ سے منظم ہوتے ہیں جیسے کہ گہرے عقیدے کے نیٹ ورکس میں نوڈس اور ڈیپ بولٹزمین مشینیں۔ گہری تعلیم میں، ہر سطح اپنے ان پٹ ڈیٹا کو قدرے زیادہ تجریدی اور جامع نمائندگی میں تبدیل کرنا سیکھتی ہے۔ امیج ریکگنیشن ایپلی کیشن میں، خام ان پٹ پکسلز کا میٹرکس ہو سکتا ہے ؛ پہلی نمائندہ پرت پکسلز کو خلاصہ کر سکتی ہے اور کناروں کو انکوڈ کر سکتی ہے ؛ دوسری پرت کناروں کے انتظامات کو مرتب اور انکوڈ کر سکتی ہے ؛ تیسری پرت ناک اور آنکھوں کو انکوڈ کر سکتی ہے ؛ اور چوتھی پرت پہچان سکتی ہے کہ تصویر میں ایک چہرہ ہے۔ اہم بات یہ ہے کہ ایک گہری سیکھنے کا عمل یہ سیکھ سکتا ہے کہ کون سی خصوصیات کو اپنے طور پر کس سطح پر بہتر طریقے سے رکھنا ہے۔ یہ ہینڈ ٹیوننگ کی ضرورت کو ختم نہیں کرتا ؛ مثال کے طور پر، تہوں اور پرت کے سائز کی مختلف تعداد تجریدی کی مختلف ڈگری فراہم کر سکتی ہے۔ "ڈیپ لرننگ" میں لفظ "ڈیپ" سے مراد ان تہوں کی تعداد ہے جن کے ذریعے ڈیٹا کو تبدیل کیا جاتا ہے۔ مزید واضح طور پر، ڈیپ لرننگ سسٹم میں کافی کریڈٹ اسائنمنٹ پاتھ (سی اے پی) گہرائی ہوتی ہے۔ سی اے پی ان پٹ سے آؤٹ پٹ میں تبدیلیوں کا سلسلہ ہے۔ سی اے پی ان پٹ اور آؤٹ پٹ کے درمیان ممکنہ وجہ کے رابطوں کو بیان کرتے ہیں۔ فیڈ فارورڈ نیورل نیٹ ورک کے لیے، سی اے پیز کی گہرائی نیٹ ورک کی ہوتی ہے اور یہ چھپی ہوئی تہوں کی تعداد کے علاوہ ایک ہوتی ہے (کیونکہ آؤٹ پٹ پرت کو بھی پیرامیٹرائز کیا جاتا ہے)۔ بار بار آنے والے عصبی نیٹ ورک کے لیے، جس میں ایک سگنل ایک پرت کے ذریعے ایک سے زیادہ بار پھیل سکتا ہے، سی اے پی کی گہرائی ممکنہ طور پر لامحدود ہوتی ہے۔ گہرائی کی کوئی عالمی طور پر متفقہ حد گہری سیکھنے سے اتلی سیکھنے کو تقسیم نہیں کرتی ہے، لیکن زیادہ تر محققین اس بات پر متفق ہیں کہ گہری سیکھنے میں سی اے پی کی گہرائی 2 سے زیادہ ہوتی ہے۔ گہرائی 2 کے سی اے پی کو اس لحاظ سے ایک عالمگیر تخمینہ کار دکھایا گیا ہے کہ یہ کسی بھی فنکشن کی تقلید کر سکتا ہے۔ اس کے علاوہ، زیادہ پرتیں نیٹ ورک کی فنکشن لگ بھگ صلاحیت میں اضافہ نہیں کرتی ہیں۔ ڈیپ ماڈلز (سی اے پی> 2) اتلی ماڈلز سے بہتر خصوصیات نکالنے کے قابل ہوتے ہیں اور اس لیے اضافی پرتیں خصوصیات کو مؤثر طریقے سے سیکھنے میں مدد کرتی ہیں۔ گہری سیکھنے کے آرکیٹیکچرز کو لالچی پرت در پرت طریقہ سے بنایا جا سکتا ہے۔ گہری تعلیم ان تجریدوں کو الگ کرنے اور یہ منتخب کرنے میں مدد کرتی ہے کہ کون سی خصوصیات کارکردگی کو بہتر بناتی ہیں۔ زیر نگرانی سیکھنے کے کاموں کے لیے، ڈیپ لرننگ کے طریقے فیچر انجینئرنگ کو ختم کرتے ہیں، ڈیٹا کو بنیادی اجزاء کی طرح کمپیکٹ انٹرمیڈیٹ نمائندگی میں ترجمہ کرتے ہیں، اور پرتوں والے ڈھانچے حاصل کرتے ہیں جو نمائندگی میں بے کار پن کو دور کرتے ہیں۔ ڈیپ لرننگ الگورتھم کا اطلاق غیر نگرانی والے سیکھنے کے کاموں پر کیا جا سکتا ہے۔ یہ ایک اہم فائدہ ہے کیونکہ غیر لیبل شدہ ڈیٹا لیبل شدہ ڈیٹا سے زیادہ وافر مقدار میں ہوتا ہے۔ گہرے ڈھانچوں کی مثالیں جنہیں غیر نگرانی کے انداز میں تربیت دی جا سکتی ہے وہ گہرے عقیدے کے نیٹ ورک ہیں۔ ڈیپ نیورل نیٹ ورکس کی تشریح عام طور پر عالمگیر تخمینہ تھیوریم یا امکانی تخمینہ کے لحاظ سے کی جاتی ہے۔ کلاسیکی عالمگیر تخمینہ تھیوریم کا تعلق فیڈ فارورڈ نیورل نیٹ ورکس کی صلاحیت سے ہے جس میں محدود سائز کی ایک چھپی ہوئی پرت کے ساتھ تقریبا مسلسل افعال ہوتے ہیں۔ 1989 میں، پہلا ثبوت جارج سائبینکو نے سگمائڈ ایکٹیویشن افعال کے لیے شائع کیا تھا اور 1991 میں کرٹ ہورنک کے ذریعے فیڈ فارورڈ ملٹی لیئر آرکیٹیکچرز کے لیے عام کیا گیا تھا۔ حالیہ کام سے یہ بھی پتہ چلا ہے کہ عالمگیر تخمینہ غیر باؤنڈ ایکٹیویشن افعال جیسے کونیہیکو فوکوشیما کی اصلاح شدہ لکیری یونٹ کے لیے بھی ہے۔ گہرے عصبی نیٹ ورکس کے لیے عالمگیر تخمینہ نظریہ محدود چوڑائی والے نیٹ ورکس کی صلاحیت سے متعلق ہے لیکن گہرائی کو بڑھنے دیا جاتا ہے۔ لو اور دیگر۔ یہ ثابت کیا کہ اگر ری ایل یو ایکٹیویشن کے ساتھ ڈیپ نیورل نیٹ ورک کی چوڑائی ان پٹ طول و عرض سے سختی سے بڑی ہے، تو نیٹ ورک کسی بھی لیبسگ انٹیگریبل فنکشن کا تخمینہ لگا سکتا ہے۔ اگر چوڑائی ان پٹ طول و عرض سے چھوٹی یا برابر ہے، تو ڈیپ نیورل نیٹ ورک عالمگیر تخمینہ نہیں ہے۔ امکانی تشریح مشین لرننگ کے میدان سے ماخوذ ہے۔ اس میں تخمینہ کے ساتھ ساتھ تربیت اور جانچ کے اصلاح کے تصورات بھی شامل ہیں، جو بالترتیب فٹنگ اور جنرلائزیشن سے متعلق ہیں۔ مزید خاص طور پر، ممکنہ تشریح ایکٹیویشن غیر لکیری کو ایک مجموعی تقسیم فنکشن کے طور پر سمجھتی ہے۔ ممکنہ تشریح کے نتیجے میں ڈراپ آؤٹ کو نیورل نیٹ ورکس میں ریگولرائزر کے طور پر متعارف کرایا گیا۔ ممکنہ تشریح کو ہاپ فیلڈ، ویڈرو اور نریندر سمیت محققین نے متعارف کرایا تھا اور بشپ جیسے سروے میں اسے مقبول بنایا گیا تھا۔ نیورل نیٹ ورک کی دو قسمیں ہیں: فیڈ فارورڈ نیورل نیٹ ورک (ایف این این) اور ریکرنٹ نیورل نیٹ ورک (آر این این)۔ آر این این کے رابطے کے ڈھانچے میں سائیکل ہوتے ہیں، ایف این این میں نہیں۔ 1920 کی دہائی میں، ولہیلم لینز اور ارنسٹ آئزنگ نے آئزنگ ماڈل بنایا اور اس کا تجزیہ کیا جو بنیادی طور پر ایک غیر سیکھنے والا آر این این فن تعمیر ہے جو نیوران جیسے حد عناصر پر مشتمل ہے۔ 1972 میں شونیچی اماری نے اس فن تعمیر کو موافقت پذیر بنایا۔ ان کی آر این این سیکھنے کو 1982 میں جان ہاپ فیلڈ نے مقبول بنایا۔ آر این اینز تقریر کی شناخت اور زبان کی پروسیسنگ کے لیے مرکزی بن چکے ہیں۔ چارلس ٹیپرٹ لکھتے ہیں کہ فرینک روزن بلیٹ نے آج کے گہرے سیکھنے کے نظام کے تمام بنیادی اجزاء کو تیار اور دریافت کیا، روزن بلیٹ کی 1962 کی کتاب کا حوالہ دیتے ہوئے جس نے 3 تہوں کے ساتھ ایک ملٹی لیئر پرسیپٹرون (ایم ایل پی) متعارف کرایا: ایک ان پٹ پرت، بے ترتیب وزن کے ساتھ ایک پوشیدہ پرت جو نہیں سیکھی، اور ایک آؤٹ پٹ پرت۔ تاہم، چونکہ صرف آؤٹ پٹ پرت میں سیکھنے کے رابطے تھے، اس لیے یہ ابھی تک گہری تعلیم نہیں تھی۔ یہ وہ چیز تھی جسے بعد میں ایک انتہائی سیکھنے والی مشین کہا گیا۔ سپروائزڈ، ڈیپ، فیڈ فارورڈ، ملٹی لیئر پرسیپٹرونز کے لیے پہلا عمومی، ورکنگ لرننگ الگورتھم 1967 میں الیکسی ایواکھنکو اور لاپا نے شائع کیا تھا۔ 1971 کے ایک مقالے میں ڈیٹا ہینڈلنگ کے گروپ طریقہ کار کے ذریعے تربیت یافتہ آٹھ تہوں کے ساتھ ایک گہرے نیٹ ورک کی وضاحت کی گئی تھی۔ سٹوچسٹک گریڈینٹ ڈیسنٹ کے ذریعہ تربیت یافتہ پہلا ڈیپ لرننگ ملٹی لیئر پرسیپٹرون 1967 میں شونیچی اماری نے شائع کیا تھا۔ اماری کے طالب علم سائیتو کے ذریعے کیے گئے کمپیوٹر تجربات میں، دو قابل ترمیم تہوں کے ساتھ ایک پانچ پرت والے ایم ایل پی نے غیر لکیری طور پر علیحدہ پیٹرن کلاسوں کی درجہ بندی کرنے کے لیے اندرونی نمائندگی سیکھی۔ 1987 میں میتھیو برانڈ نے اطلاع دی کہ وسیع 12 پرتوں والے غیر لکیری پرسیپٹرونز کو بے ترتیب ان پٹ/آؤٹ پٹ نمونوں کے چھوٹے بیچوں پر گریڈینٹ نزول کے ذریعے غیر معمولی سرکٹ کی گہرائی کے منطق افعال کو دوبارہ پیش کرنے کے لیے مکمل طور پر اینڈ ٹو اینڈ تربیت دی جا سکتی ہے، لیکن اس نتیجے پر پہنچے کہ عصری ہارڈ ویئر (سب میگا فلاپ کمپیوٹرز) پر ٹریننگ ٹائم نے تکنیک کو ناقابل عمل بنا دیا، اور ایک واحد قابل ترمیم پرت کے لیے ان پٹ ہیش کے طور پر فکسڈ بے ترتیب ابتدائی تہوں کا استعمال کرنے کی تجویز پیش کی۔ اس کے بجائے، ہارڈ ویئر اور ہائپر پیرامیٹر ٹیوننگ میں ہونے والی پیشرفتوں نے اینڈ ٹو اینڈ سٹوچسٹک گریڈینٹ ڈیسنٹ کو فی الحال غالب تربیتی تکنیک بنا دیا ہے۔ 1970 میں، سیپو لنینما نے نیسٹڈ تفریق پذیر افعال کے مجرد جڑے ہوئے نیٹ ورکس کی خودکار تفریق کا ریورس موڈ شائع کیا۔ یہ بیک پروپیگنڈےشن کے نام سے جانا جانے لگا۔ یہ 1673 میں گوٹ فرائیڈ ولہیم لیبنز کی طرف سے تفریق نوڈس کے نیٹ ورک پر اخذ کردہ سلسلہ اصول کا ایک موثر اطلاق ہے۔ اصطلاح "بیک-پروپیگیٹنگ ایررز" دراصل 1962 میں روزن بلیٹ نے متعارف کروائی تھی، لیکن وہ نہیں جانتے تھے کہ اسے کیسے نافذ کیا جائے، حالانکہ ہنری جے کیلی کے پاس کنٹرول تھیوری کے تناظر میں پہلے ہی 1960 میں بیک پروپیگیشن کا مسلسل پیش خیمہ تھا۔ 1982 میں، پال وربوس نے ایم ایل پیز پر بیک پروپیگنڈے کا اطلاق اس طرح کیا جو کہ معیاری بن گیا ہے۔ 1985 میں، ڈیوڈ ای رومیل ہارٹ اور دیگر۔ اس تکنیک کا ایک تجرباتی تجزیہ شائع کیا۔ کنوولوشنل تہوں اور ڈاؤن سیمپلنگ تہوں کے ساتھ کنوولوشنل نیورل نیٹ ورکس (سی این این) کے لیے ڈیپ لرننگ آرکیٹیکچرز کا آغاز 1980 میں کونیہیکو فوکوشیما کے متعارف کردہ نیوکگنیٹرون سے ہوا۔ 1969 میں انہوں نے ریلو (ریکٹیفائیڈ لینیر یونٹ) ایکٹیویشن فنکشن بھی متعارف کرایا۔ ریکٹیفائر سی این این اور عام طور پر گہری سیکھنے کے لیے سب سے زیادہ مقبول ایکٹیویشن فنکشن بن گیا ہے۔ سی این این کمپیوٹر وژن کے لیے ایک لازمی ذریعہ بن چکے ہیں۔ ڈیپ لرننگ کی اصطلاح 1986 میں رینا ڈیچر نے مشین لرننگ کمیونٹی میں متعارف کرائی تھی، اور 2000 میں ایگور آئزن برگ اور ان کے ساتھیوں نے بولین تھریشولڈ نیوران کے تناظر میں مصنوعی نیورل نیٹ ورک میں متعارف کرائی تھی۔ 1988 میں، وی ژانگ اور دیگر۔ حروف تہجی کی شناخت کے لیے بیک پروپیگنڈاشن الگورتھم کو ایک کنولوشنل نیورل نیٹ ورک (تصویر کی خصوصیت کی تہوں اور آخری مکمل طور پر منسلک پرت کے درمیان کنولوشنل انٹرکنکشن کے ساتھ ایک آسان نیوکگنیٹرون) پر لاگو کیا گیا۔ انہوں نے آپٹیکل کمپیوٹنگ سسٹم کے ساتھ سی این این کے نفاذ کی بھی تجویز پیش کی۔ 1989 میں، یان لیکون اور دیگر۔ میل پر ہاتھ سے لکھے گئے زپ کوڈز کو پہچاننے کے مقصد سے سی این این پر بیک پروپیگنڈے کا اطلاق کیا گیا۔ جب کہ الگورتھم نے کام کیا، تربیت کے لیے 3 دن درکار تھے۔ اس کے بعد، وی ژانگ، اور دیگر۔ مکمل طور پر منسلک آخری پرت کو ہٹا کر اپنے ماڈل میں ترمیم کی اور اسے 1991 میں میڈیکل امیج آبجیکٹ سیگمنٹشن اور 1994 میں میموگرام میں چھاتی کے کینسر کا پتہ لگانے کے لیے لاگو کیا۔ لینٹ-5 (1998)، ین لیکون اور دیگر کا 7 درجے کا سی این این، جو ہندسوں کی درجہ بندی کرتا ہے، کا اطلاق کئی بینکوں نے 32x32 پکسل امیجز میں ڈیجیٹائزڈ چیک پر ہاتھ سے لکھے ہوئے نمبروں کو پہچاننے کے لیے کیا تھا۔ 1980 کی دہائی میں، کریڈٹ اسائنمنٹ کے طویل راستوں کے ساتھ گہری تعلیم کے لیے بیک پروپیگنڈے نے اچھی طرح سے کام نہیں کیا۔ اس مسئلے پر قابو پانے کے لیے، Jürgen Schmidhuber (1992) نے خود کی نگرانی میں سیکھنے کے ذریعے ایک وقت میں پہلے سے تربیت یافتہ RNNs کے درجہ بندی کی تجویز پیش کی۔ یہ متعدد خود منظم وقت کے پیمانوں پر اندرونی نمائندگی سیکھنے کے لیے پیشن گوئی کوڈنگ کا استعمال کرتا ہے۔ یہ نیچے کی طرف گہری تعلیم کو کافی حد تک آسان بنا سکتا ہے۔ آر این این کے درجہ بندی کو ایک واحد آر این این میں تبدیل کیا جا سکتا ہے، ایک اعلی سطح کے چنکر نیٹ ورک کو نچلی سطح کے آٹومیٹائزر نیٹ ورک میں ڈسٹل کرکے۔ 1993 میں، ایک چنکر نے ایک گہری سیکھنے کا کام حل کیا جس کی گہرائی 1000 سے تجاوز کر گئی۔ 1992 میں، Jürgen Schmidhuber نے RNNs کا ایک متبادل بھی شائع کیا جسے اب لکیری ٹرانسفارمر یا لکیریائزڈ سیلف توجہ والا ٹرانسفارمر کہا جاتا ہے (نارملائزیشن آپریٹر کے لیے محفوظ کریں)۔ یہ توجہ کی اندرونی اسپاٹ لائٹس سیکھتا ہے: ایک سست فیڈ فارورڈ نیورل نیٹ ورک دوسرے نیورل نیٹ ورک کے تیز وزن کو خود سے تیار کردہ ایکٹیویشن پیٹرن ایف آر او ایم اور ٹی او (جسے اب خود توجہ کے لیے کلیدی اور قدر کہا جاتا ہے) کے ذریعے کنٹرول کرنا سیکھتا ہے۔ یہ تیز وزن کی توجہ کی نقشہ سازی استفسار کے نمونے پر لاگو ہوتی ہے۔ جدید ٹرانسفارمر کو آشیش واسوانی اور دیگر نے متعارف کرایا تھا۔ ال۔ ان کے 2017 کے مقالے "توجہ آپ سب کی ضرورت ہے" میں۔ یہ اسے سافٹ میکس آپریٹر اور پروجیکشن میٹرکس کے ساتھ جوڑتا ہے۔ ٹرانسفارمر تیزی سے قدرتی زبان کی پروسیسنگ کے لیے پسند کا نمونہ بن چکے ہیں۔ بہت سے جدید بڑے زبان کے ماڈل جیسے چیٹ جی پی ٹی، جی پی ٹی-4، اور بی ای آر ٹی اسے استعمال کرتے ہیں۔ ٹرانسفارمرز کا استعمال کمپیوٹر وژن میں بھی تیزی سے کیا جا رہا ہے۔ 1991 میں، Jürgen Schmidhuber نے مخالف نیورل نیٹ ورک بھی شائع کیے جو ایک دوسرے کے ساتھ صفر رقم کے کھیل کی شکل میں مقابلہ کرتے ہیں، جہاں ایک نیٹ ورک کا فائدہ دوسرے نیٹ ورک کا نقصان ہوتا ہے۔ پہلا نیٹ ورک ایک جنریٹو ماڈل ہے جو آؤٹ پٹ پیٹرن پر امکان کی تقسیم کا نمونہ بناتا ہے۔ دوسرا نیٹ ورک ان نمونوں پر ماحول کے رد عمل کی پیش گوئی کرنے کے لیے میلان کے نزول سے سیکھتا ہے۔ اسے "مصنوعی تجسس" کہا جاتا تھا۔ 2014 میں، اس اصول کو ایان گڈفیلو اور دیگر کے ذریعہ جنریٹو ایڈوسرل نیٹ ورک (جی اے این) میں استعمال کیا گیا تھا۔ یہاں ماحولیاتی رد عمل 1 یا 0 ہے جو اس بات پر منحصر ہے کہ پہلے نیٹ ورک کی آؤٹ پٹ کسی دیئے گئے سیٹ میں ہے یا نہیں۔ اسے حقیقت پسندانہ ڈیپ فیکس بنانے کے لیے استعمال کیا جا سکتا ہے۔ ٹیرو کرراس ایٹ کے پروگریسو GAN پر مبنی Nvidia کے StyleGAN (2018) کے ذریعے تصویر کا بہترین معیار حاصل کیا گیا ہے۔ ال۔ یہاں جی اے این جنریٹر کو اہرام کے انداز میں چھوٹے سے بڑے پیمانے پر اگایا جاتا ہے۔ سیپ ہوکریٹر کے ڈپلومہ مقالے (1991) کو ان کے سپروائزر شمڈہوبر نے "مشین لرننگ کی تاریخ کی سب سے اہم دستاویزات میں سے ایک" کہا تھا۔ اس نے نہ صرف نیورل ہسٹری کمپریسر کا تجربہ کیا، بلکہ غائب ہونے والے میلان کے مسئلے کی شناخت اور تجزیہ بھی کیا۔ ہوکریٹر نے اس مسئلے کو حل کرنے کے لیے بار بار بقیہ کنکشن کی تجویز پیش کی۔ اس کی وجہ سے گہری سیکھنے کا طریقہ کار جسے لانگ شارٹ ٹرم میموری (ایل ایس ٹی ایم) کہا جاتا ہے، 1997 میں شائع ہوا۔ ایل ایس ٹی ایم بار بار آنے والے نیورل نیٹ ورک طویل کریڈٹ اسائنمنٹ راستوں کے ساتھ "بہت گہری سیکھنے" کے کاموں کو سیکھ سکتے ہیں جن کے لیے ان واقعات کی یادوں کی ضرورت ہوتی ہے جو ہزاروں مجرد وقت کے مراحل سے پہلے پیش آئے تھے۔ بھولے ہوئے گیٹ کے ساتھ "ونیلا ایل ایس ٹی ایم" 1999 میں فیلکس گیرس، شمڈہوبر اور فریڈ کمنز نے متعارف کرایا تھا۔ ایل ایس ٹی ایم 20 ویں صدی کا سب سے زیادہ حوالہ دیا جانے والا عصبی نیٹ ورک بن گیا ہے۔ 2015 میں، روپیش کمار سریواستو، کلاؤس گریف، اور شمڈھوبر نے ہائی وے نیٹ ورک بنانے کے لیے ایل ایس ٹی ایم اصولوں کا استعمال کیا، جو کہ سینکڑوں تہوں کے ساتھ ایک فیڈ فارورڈ نیورل نیٹ ورک ہے، جو پچھلے نیٹ ورکس کے مقابلے میں بہت گہرا ہے۔ 7 ماہ بعد، کیمنگ ہی، ژیانگیو ژانگ ؛ شاؤکنگ رین، اور جیان سن نے ریسیڈیول نیورل نیٹ ورک نامی اوپن گیٹڈ یا گیٹ لیس ہائی وے نیٹ ورک ورژن کے ساتھ امیج نیٹ 2015 کا مقابلہ جیتا۔ یہ 21 ویں صدی کا سب سے زیادہ حوالہ دیا جانے والا نیورل نیٹ ورک بن گیا ہے۔ 1994 میں، آندرے ڈی کاروالہو نے مائیک فیئرھورسٹ اور ڈیوڈ بسسیٹ کے ساتھ مل کر ایک ملٹی لیئر بولین نیورل نیٹ ورک کے تجرباتی نتائج شائع کیے، جسے ویٹ لیس نیورل نیٹ ورک بھی کہا جاتا ہے، جو 3 پرتوں پر مشتمل سیلف آرگنائزنگ فیچر ایکسٹرکشن نیورل نیٹ ورک ماڈیول (ایس او ایف ٹی) پر مشتمل ہے جس کے بعد ایک ملٹی لیئر کلاسیفکیشن نیورل نیٹ ورک ماڈیول (جی ایس این)، جسے آزادانہ طور پر تربیت دی گئی تھی۔ فیچر ایکسٹرکشن ماڈیول کی ہر پرت پچھلی پرت کے حوالے سے بڑھتی ہوئی پیچیدگی کے ساتھ خصوصیات نکالتی ہے۔ 1995 میں، برینڈن فرے نے مظاہرہ کیا کہ ویک سلیپ الگورتھم کا استعمال کرتے ہوئے چھ مکمل طور پر منسلک تہوں اور کئی سو پوشیدہ یونٹوں پر مشتمل نیٹ ورک کو تربیت دینا (دو دن میں) ممکن ہے، جسے پیٹر دیان اور ہنٹن کے ساتھ مل کر تیار کیا گیا ہے۔ 1997 کے بعد سے، سوان بینکے نے فیصلوں میں سیاق و سباق کو لچکدار طریقے سے شامل کرنے اور مقامی ابہام کو بار بار حل کرنے کے لیے پس منظر اور پسماندہ رابطوں کے ذریعے نیورل ابسٹرکشن پرامڈ میں فیڈ فارورڈ ہائیرارکیکل کنوولوشنل اپروچ کو بڑھایا۔ آسان ماڈل جو کام کے لیے مخصوص دستکاری کی خصوصیات جیسے گیبر فلٹرز اور سپورٹ ویکٹر مشینیں (ایس وی ایم) استعمال کرتے ہیں، 1990 اور 2000 کی دہائی میں ایک مقبول انتخاب تھے، کیونکہ مصنوعی نیورل نیٹ ورک (اے این این) کی کمپیوٹیشنل لاگت اور اس بات کی سمجھ کی کمی تھی کہ دماغ اپنے حیاتیاتی نیٹ ورک کو کیسے تار کرتا ہے۔ تقریر کی شناخت کے لیے اے این این کی اتلی اور گہری سیکھنے (مثال کے طور پر، بار بار چلنے والے جال) دونوں کو کئی سالوں سے تلاش کیا گیا ہے۔ ان طریقوں نے کبھی بھی غیر یکساں اندرونی دستکاری والے گوسیئن مکسچر ماڈل/ہڈن مارکوف ماڈل (جی ایم ایم-ایچ ایم ایم) ٹیکنالوجی کو پیچھے نہیں چھوڑا جو امتیازی طور پر تربیت یافتہ تقریر کے جنریٹو ماڈل پر مبنی ہے۔ کلیدی مشکلات کا تجزیہ کیا گیا ہے، بشمول عصبی پیشن گوئی کرنے والے ماڈلز میں میلان کو کم کرنا اور کمزور عارضی ارتباط کا ڈھانچہ۔ اضافی مشکلات ٹریننگ ڈیٹا کی کمی اور محدود کمپیوٹنگ پاور تھیں۔ تقریر کو پہچاننے والے زیادہ تر محققین جنریٹو ماڈلنگ کو آگے بڑھانے کے لیے عصبی جالوں سے دور چلے گئے۔ 1990 کی دہائی کے آخر میں ایس آر آئی انٹرنیشنل میں ایک رعایت تھی۔ امریکی حکومت کے این ایس اے اور ڈی اے آر پی اے کی مالی اعانت سے، ایس آر آئی نے تقریر اور اسپیکر کی شناخت میں گہرے عصبی نیٹ ورک کا مطالعہ کیا۔ لیری ہیک کی سربراہی میں اسپیکر ریکگنیشن ٹیم نے 1998 کے نیشنل انسٹی ٹیوٹ آف اسٹینڈرڈز اینڈ ٹیکنالوجی اسپیکر ریکگنیشن ایویلیوایشن میں اسپیچ پروسیسنگ میں ڈیپ نیورل نیٹ ورکس کے ساتھ نمایاں کامیابی کی اطلاع دی۔ اس کے بعد ایس آر آئی ڈیپ نیورل نیٹ ورک کو نیوانس ویریفائر میں تعینات کیا گیا، جو ڈیپ لرننگ کے پہلے بڑے صنعتی استعمال کی نمائندگی کرتا ہے۔ ہاتھ سے تیار کردہ اصلاح پر "خام" خصوصیات کو بلند کرنے کے اصول کو پہلی بار 1990 کی دہائی کے آخر میں "خام" سپیکٹروگرام یا لکیری فلٹر بینک خصوصیات پر گہرے آٹوکوڈر کے فن تعمیر میں کامیابی کے ساتھ تلاش کیا گیا تھا، جو میل-سیپسٹرل خصوصیات پر اس کی برتری کو ظاہر کرتا ہے جس میں سپیکٹروگرام سے مقررہ تبدیلی کے مراحل ہوتے ہیں۔ تقریر کی خام خصوصیات، لہروں کی شکلوں نے بعد میں بڑے پیمانے پر بہترین نتائج پیدا کیے۔ تقریر کی پہچان ایل ایس ٹی ایم نے سنبھال لی۔ 2003 میں، ایل ایس ٹی ایم نے بعض کاموں پر روایتی تقریر پہچاننے والوں کے ساتھ مسابقتی بننا شروع کیا۔ 2006 میں، ایلکس گریوز، سینٹیاگو فرنانڈیز، فوسٹینو گومز، اور شمڈہوبر نے اسے ایل ایس ٹی ایم آر این این کے ڈھیر میں کنکشنسٹ عارضی درجہ بندی (سی ٹی سی) کے ساتھ ملایا۔ 2015 میں، گوگل کی تقریر کی شناخت نے مبینہ طور پر سی ٹی سی سے تربیت یافتہ ایل ایس ٹی ایم کے ذریعے 49 فیصد کی ڈرامائی کارکردگی کا تجربہ کیا، جسے انہوں نے گوگل وائس سرچ کے ذریعے دستیاب کرایا۔ یان لیکون کے مطابق، صنعت میں گہری تعلیم کا اثر 2000 کی دہائی کے اوائل میں شروع ہوا، جب سی این این نے پہلے ہی امریکہ میں لکھے گئے تمام چیک کے اندازے کے مطابق 10 ٪ سے 20 ٪ پر کارروائی کی۔ بڑے پیمانے پر تقریر کی پہچان کے لیے گہری تعلیم کے صنعتی استعمال 2010 کے آس پاس شروع ہوئے۔ 2006 میں، جیوف ہنٹن، رسلن سالختدینوف، اوسیندرو اور ٹیہ کی اشاعتوں سے پتہ چلتا ہے کہ کس طرح کئی پرتوں والے فیڈ فارورڈ نیورل نیٹ ورک کو مؤثر طریقے سے ایک وقت میں ایک پرت سے پہلے تربیت دی جا سکتی ہے، جس کے نتیجے میں ہر پرت کو غیر نگرانی شدہ محدود بولٹزمین مشین کے طور پر سمجھا جاتا ہے، پھر نگرانی شدہ بیک پروپیگیشن کا استعمال کرتے ہوئے اسے ٹھیک کیا جاتا ہے۔ مقالے گہرے عقیدے کے جالوں کے لیے سیکھنے کا حوالہ دیتے ہیں۔ 2009 کی این آئی پی ایس ورکشاپ آن ڈیپ لرننگ فار اسپیچ ریکگنیشن تقریر کے گہرے جنریٹو ماڈلز کی حدود اور اس امکان سے متاثر تھی کہ زیادہ قابل ہارڈ ویئر اور بڑے پیمانے پر ڈیٹا سیٹ دیے جانے سے ڈیپ نیورل نیٹ (ڈی این این) عملی بن سکتے ہیں۔ یہ خیال کیا جاتا تھا کہ ڈیپ ٹرسٹ نیٹ (ڈی بی این) کے جنریٹو ماڈلز کا استعمال کرتے ہوئے ڈی این این کو پہلے سے تربیت دینے سے نیورل نیٹ کی اہم مشکلات پر قابو پایا جا سکے گا۔ تاہم، یہ دریافت کیا گیا کہ بڑی، سیاق و سباق پر منحصر آؤٹ پٹ تہوں کے ساتھ ڈی این این کا استعمال کرتے وقت براہ راست بیک پروپیگنڈے کے لیے بڑی مقدار میں ٹریننگ ڈیٹا کے ساتھ پری ٹریننگ کی جگہ غلطی کی شرح اس وقت کے جدید ترین گوسیئن مکسچر ماڈل (جی ایم ایم)/ہڈن مارکوف ماڈل (ایچ ایم ایم) اور زیادہ جدید جنریٹو ماڈل پر مبنی نظام سے بھی ڈرامائی طور پر کم پیدا ہوئی۔ دو قسم کے نظاموں کی طرف سے پیدا ہونے والی شناخت کی غلطیوں کی نوعیت خاص طور پر مختلف تھی، جو تمام بڑے تقریر کی شناخت کے نظاموں کے ذریعہ تعینات موجودہ انتہائی موثر، رن ٹائم اسپیچ ڈیکوڈنگ سسٹم میں گہری تعلیم کو مربوط کرنے کے بارے میں تکنیکی بصیرت پیش کرتی ہے۔ 2009-2010 کے ارد گرد تجزیہ، GMM (اور دیگر جنریٹو اسپیچ ماڈلز) بمقابلہ DNN ماڈلز کے برعکس، تقریر کی شناخت کے لیے گہری سیکھنے میں ابتدائی صنعتی سرمایہ کاری کو متحرک کیا۔ یہ تجزیہ امتیازی ڈی این این اور جنریٹو ماڈلز کے درمیان تقابلی کارکردگی (غلطی کی شرح میں 1.5 فیصد سے کم) کے ساتھ کیا گیا تھا۔ 2010 میں، محققین نے فیصلہ کن درختوں کے ذریعہ تعمیر کردہ سیاق و سباق پر منحصر ایچ ایم ایم ریاستوں کی بنیاد پر ڈی این این کی بڑی آؤٹ پٹ تہوں کو اپنا کر، ٹی آئی ایم آئی ٹی سے گہری سیکھنے کو بڑے الفاظ کی تقریر کی شناخت تک بڑھایا۔ گہری تعلیم مختلف شعبوں، خاص طور پر کمپیوٹر وژن اور آٹومیٹک اسپیچ ریکگنیشن (اے ایس آر) میں جدید ترین نظام کا حصہ ہے۔ عام طور پر استعمال ہونے والے تشخیصی سیٹوں جیسے ٹی آئی ایم آئی ٹی (اے ایس آر) اور ایم این آئی ایس ٹی (تصویری درجہ بندی) کے ساتھ ساتھ بڑے الفاظ میں تقریر کی شناخت کے کاموں کے نتائج میں مسلسل بہتری آئی ہے۔ ایل ایس ٹی ایم کے لیے سی ٹی سی کے ذریعے اے ایس آر کے لیے کنوولوشنل نیورل نیٹ ورکس (سی این این) کی جگہ لے لی گئی۔ لیکن کمپیوٹر وژن میں زیادہ کامیاب ہوتے ہیں۔ ہارڈ ویئر میں ہونے والی ترقی نے گہری تعلیم میں نئی دلچسپی پیدا کی ہے۔ 2009 میں، این ویڈیا ڈیپ لرننگ کے "بگ بینگ" میں شامل تھا، کیونکہ ڈیپ لرننگ نیورل نیٹ ورکس کو این ویڈیا گرافکس پروسیسنگ یونٹس (جی پی یو) کے ساتھ تربیت دی گئی تھی۔ اس سال، اینڈریو این جی نے طے کیا کہ جی پی یو گہرے سیکھنے کے نظام کی رفتار کو تقریبا 100 گنا بڑھا سکتے ہیں۔ خاص طور پر، جی پی یو مشین لرننگ میں شامل میٹرکس/ویکٹر کمپیوٹیشن کے لیے اچھی طرح سے موزوں ہیں۔ جی پی یوز ٹریننگ الگورتھم کو شدت کے لحاظ سے تیز کرتے ہیں، جس سے چلنے کے اوقات کو ہفتوں سے دنوں تک کم کیا جاتا ہے۔ مزید برآں، ڈیپ لرننگ ماڈلز کی موثر پروسیسنگ کے لیے خصوصی ہارڈ ویئر اور الگورتھم کی اصلاح کا استعمال کیا جا سکتا ہے۔ گہری سیکھنے کا انقلاب 2000 کی دہائی کے آخر میں، گہری سیکھنے نے مشین لرننگ کے مقابلوں میں دوسرے طریقوں کو پیچھے چھوڑنا شروع کر دیا۔ 2009 میں، کنکشنسٹ عارضی درجہ بندی (الیکس گریوز، سینٹیاگو فرنانڈیز، فوسٹینو گومز، اور جورجن شمڈہوبر، 2006) کے ذریعہ تربیت یافتہ ایک طویل قلیل مدتی میموری پیٹرن کی شناخت کے مقابلے جیتنے والی پہلی آر این این تھی، جس نے منسلک تحریر کی شناخت میں تین مقابلے جیتے۔ گوگل نے بعد میں اسمارٹ فون پر تقریر کی شناخت کے لیے سی ٹی سی سے تربیت یافتہ ایل ایس ٹی ایم کا استعمال کیا۔ تصویر یا آبجیکٹ کی شناخت میں اہم اثرات 2011 سے 2012 تک محسوس کیے گئے۔ اگرچہ بیک پروپیگنڈے کے ذریعے تربیت یافتہ سی این این کئی دہائیوں سے چل رہے تھے، اور سی این این سمیت این این کے جی پی یو نفاذ، کمپیوٹر وژن پر ترقی کے لیے جی پی یو پر سی این این کے تیزی سے نفاذ کی ضرورت تھی۔ 2011 میں، ڈین نیٹ بذریعہ ڈین سیریسن، یولی میئر، جوناتھن ماسکی، لوکا ماریا گامبارڈیلا، اور جورجن شمڈہوبر نے پہلی بار بصری پیٹرن کی شناخت کے مقابلے میں غیر انسانی کارکردگی حاصل کی، جس نے روایتی طریقوں کو 3 کے عنصر سے پیچھے چھوڑ دیا۔ اس کے علاوہ 2011 میں، ڈین نیٹ نے آئی سی ڈی اے آر چینی تحریر کا مقابلہ جیتا، اور مئی 2012 میں، اس نے آئی ایس بی آئی امیج سیگمنٹشن مقابلہ جیتا۔ 2011 تک، سی این این نے کمپیوٹر وژن کانفرنسوں میں اہم کردار ادا نہیں کیا، لیکن جون 2012 میں، سیریسن اور دیگر کا ایک مقالہ۔ معروف کانفرنس میں سی وی پی آر نے دکھایا کہ جی پی یو پر زیادہ سے زیادہ سی این این کس طرح ڈرامائی طور پر بہت سے وژن بینچ مارک ریکارڈ کو بہتر بنا سکتے ہیں۔ ستمبر 2012 میں، ڈین نیٹ نے کینسر کا پتہ لگانے کے لیے بڑی طبی تصاویر کے تجزیے پر آئی سی پی آر مقابلہ بھی جیتا، اور اگلے سال بھی اسی موضوع پر ایم آئی سی سی اے آئی گرینڈ چیلنج جیتا۔ اکتوبر 2012 میں، الیکس کریزیوسکی، الیا سوٹسکیور، اور جیفری ہنٹن کے اسی طرح کے الیکس نیٹ نے بڑے پیمانے پر امیج نیٹ مقابلہ اتلی مشین لرننگ کے طریقوں پر نمایاں فرق سے جیتا۔ کیرن سیمونین اور اینڈریو زیسرمین کے وی جی جی-16 نیٹ ورک نے غلطی کی شرح کو مزید کم کیا اور بڑے پیمانے پر تقریر کی شناخت میں اسی طرح کے رجحان کے بعد امیج نیٹ 2014 کا مقابلہ جیتا۔ اس کے بعد تصویر کی درجہ بندی کو تصاویر کے لیے وضاحتیں (کیپشنز) تیار کرنے کے زیادہ مشکل کام تک بڑھا دیا گیا، اکثر سی این این اور ایل ایس ٹی ایم کے امتزاج کے طور پر۔ 2012 میں، جارج ای ڈہل کی قیادت میں ایک ٹیم نے ایک دوا کے حیاتیاتی سالماتی ہدف کی پیش گوئی کرنے کے لیے ملٹی ٹاسک ڈیپ نیورل نیٹ ورک کا استعمال کرتے ہوئے "مرک مالیکیولر ایکٹیویٹی چیلنج" جیتا۔ 2014 میں، سیپ ہوکریٹر کے گروپ نے غذائی اجزاء، گھریلو مصنوعات اور ادویات میں ماحولیاتی کیمیکلز کے غیر ہدف اور زہریلے اثرات کا پتہ لگانے کے لیے ڈیپ لرننگ کا استعمال کیا اور این آئی ایچ، ایف ڈی اے اور این سی اے ٹی ایس کا "ٹوکس 21 ڈیٹا چیلنج" جیتا۔ 2016 میں، راجر پارلوف نے ایک "گہرے سیکھنے کے انقلاب" کا ذکر کیا جس نے مصنوعی ذہانت کی صنعت کو تبدیل کر دیا ہے۔ مارچ 2019 میں، یوشوا بینجیو، جیفری ہنٹن اور یان لیکون کو تصوراتی اور انجینئرنگ کی کامیابیوں کے لیے ٹورنگ ایوارڈ سے نوازا گیا جس نے گہرے عصبی نیٹ ورکس کو کمپیوٹنگ کا ایک اہم جزو بنا دیا ہے۔ عصبی نیٹ ورک مصنوعی عصبی نیٹ ورک (اے این این) یا کنکشنسٹ سسٹم کمپیوٹنگ سسٹم ہیں جو حیاتیاتی عصبی نیٹ ورک سے متاثر ہوتے ہیں جو جانوروں کے دماغ کی تشکیل کرتے ہیں۔ اس طرح کے نظام عام طور پر ٹاسک مخصوص پروگرامنگ کے بغیر، مثالوں پر غور کرکے کاموں کو کرنے کے لیے سیکھتے ہیں (بتدریج اپنی صلاحیت کو بہتر بناتے ہیں)۔ مثال کے طور پر، تصویر کی شناخت میں، وہ بلیوں پر مشتمل تصاویر کی شناخت کرنا سیکھ سکتے ہیں مثال کے طور پر ان تصاویر کا تجزیہ کرکے جن پر دستی طور پر "بلی" یا "بلی نہیں" کا لیبل لگایا گیا ہے اور دیگر تصاویر میں بلیوں کی شناخت کے لیے تجزیاتی نتائج کا استعمال کرتے ہیں۔ انہوں نے ایپلی کیشنز میں زیادہ تر استعمال کو اصول پر مبنی پروگرامنگ کا استعمال کرتے ہوئے روایتی کمپیوٹر الگورتھم کے ساتھ اظہار کرنا مشکل پایا ہے۔ اے این این منسلک اکائیوں کے مجموعے پر مبنی ہوتا ہے جسے مصنوعی نیوران کہا جاتا ہے، (حیاتیاتی دماغ میں حیاتیاتی نیوران کے مترادف)۔ نیوران کے درمیان ہر کنکشن (مطابقت پذیری) ایک سگنل کو دوسرے نیوران میں منتقل کر سکتا ہے۔ وصول کرنے والا (پوسٹسیناپٹک) نیوران سگنل پر کارروائی کر سکتا ہے اور پھر اس سے منسلک نیچے کی طرف والے نیوران کو سگنل دے سکتا ہے۔ نیوران کی حالت ہو سکتی ہے، جسے عام طور پر حقیقی اعداد سے ظاہر کیا جاتا ہے، عام طور پر 0 اور 1 کے درمیان۔ نیوران اور سنپیپس کا وزن بھی ہو سکتا ہے جو سیکھنے کی آمد کے ساتھ بدلتا ہے، جو نیچے کی طرف بھیجنے والے سگنل کی طاقت کو بڑھا یا کم کر سکتا ہے۔ عام طور پر، نیوران تہوں میں منظم ہوتے ہیں۔ مختلف پرتیں اپنے ان پٹ پر مختلف قسم کی تبدیلیاں انجام دے سکتی ہیں۔ سگنلز پہلی (ان پٹ) سے آخری (آؤٹ پٹ) پرت تک سفر کرتے ہیں، ممکنہ طور پر تہوں کو متعدد بار عبور کرنے کے بعد۔ عصبی نیٹ ورک کے نقطہ نظر کا اصل مقصد مسائل کو اسی طرح حل کرنا تھا جس طرح انسانی دماغ کرتا ہے۔ وقت گزرنے کے ساتھ، توجہ مخصوص ذہنی صلاحیتوں کے ملاپ پر مرکوز ہوتی ہے، جس کی وجہ سے حیاتیات سے انحراف ہوتا ہے جیسے کہ بیک پروپیگیشن، یا معلومات کو الٹی سمت میں منتقل کرنا اور اس معلومات کی عکاسی کرنے کے لیے نیٹ ورک کو ایڈجسٹ کرنا۔ اعصابی نیٹ ورک کو مختلف کاموں پر استعمال کیا گیا ہے، بشمول کمپیوٹر وژن، تقریر کی شناخت، مشین ترجمہ، سوشل نیٹ ورک فلٹرنگ، بورڈ اور ویڈیو گیمز کھیلنا اور طبی تشخیص۔ 2017 تک، نیورل نیٹ ورکس میں عام طور پر چند ہزار سے چند ملین یونٹ اور لاکھوں کنکشن ہوتے ہیں۔ یہ تعداد انسانی دماغ پر نیوران کی تعداد سے کم شدت کی کئی ترتیب ہونے کے باوجود، یہ نیٹ ورک انسانوں سے باہر کی سطح پر بہت سے کام انجام دے سکتے ہیں (مثال کے طور پر، چہروں کو پہچاننا، یا "گو" کھیلنا)۔ ڈیپ نیورل نیٹ ورک (ڈی این این) ایک مصنوعی نیورل نیٹ ورک (اے این این) ہے جس میں ان پٹ اور آؤٹ پٹ تہوں کے درمیان متعدد پرتیں ہوتی ہیں۔ عصبی نیٹ ورک کی مختلف قسمیں ہیں لیکن وہ ہمیشہ ایک ہی اجزاء پر مشتمل ہوتے ہیں: نیوران، مطابقت پذیری، وزن، تعصب، اور افعال۔ یہ اجزاء مجموعی طور پر انسانی دماغ کی طرح کام کرتے ہیں، اور انہیں کسی بھی دوسرے ایم ایل الگورتھم کی طرح تربیت دی جا سکتی ہے۔ مثال کے طور پر، ایک ڈی این این جسے کتوں کی نسلوں کو پہچاننے کی تربیت دی جاتی ہے وہ دی گئی تصویر پر جائے گا اور اس امکان کا حساب لگائے گا کہ تصویر میں موجود کتا ایک مخصوص نسل ہے۔ صارف نتائج کا جائزہ لے سکتا ہے اور منتخب کر سکتا ہے کہ نیٹ ورک کو کون سے امکانات ظاہر کرنے چاہئیں (ایک مخصوص حد سے اوپر، وغیرہ)۔ اور مجوزہ لیبل واپس کر دیں۔ ہر ریاضیاتی ہیرا پھیری کو ایک پرت سمجھا جاتا ہے، اور پیچیدہ ڈی این این میں بہت سی پرتیں ہوتی ہیں، اس لیے اسے "ڈیپ" نیٹ ورک کا نام دیا گیا ہے۔ ڈی این این پیچیدہ غیر لکیری تعلقات کا نمونہ بن سکتے ہیں۔ ڈی این این آرکیٹیکچرز کمپوزیشن ماڈل تیار کرتے ہیں جہاں آبجیکٹ کو پرائمیٹوز کی پرتوں والی ساخت کے طور پر ظاہر کیا جاتا ہے۔ اضافی پرتیں نچلی تہوں سے خصوصیات کی تشکیل کو قابل بناتی ہیں، ممکنہ طور پر اسی طرح کی کارکردگی کا مظاہرہ کرنے والے اتلی نیٹ ورک کے مقابلے میں کم اکائیوں کے ساتھ پیچیدہ ڈیٹا کی ماڈلنگ کرتی ہیں۔ مثال کے طور پر، یہ ثابت ہوا کہ غیر معمولی کثیر الجہتی کثیر الجہتی اتلی نیٹ ورکس کے مقابلے میں ڈی این این کے ساتھ تخمینہ لگانا تیزی سے آسان ہے۔ گہرے آرکیٹیکچرز میں چند بنیادی طریقوں کی بہت سی قسمیں شامل ہیں۔ ہر فن تعمیر کو مخصوص شعبوں میں کامیابی ملی ہے۔ متعدد آرکیٹیکچرز کی کارکردگی کا موازنہ کرنا ہمیشہ ممکن نہیں ہوتا، جب تک کہ ان کا ایک ہی ڈیٹا سیٹوں پر جائزہ نہ لیا جائے۔ ڈی این این عام طور پر فیڈ فارورڈ نیٹ ورک ہوتے ہیں جن میں ڈیٹا بغیر لوپنگ بیک کے ان پٹ پرت سے آؤٹ پٹ پرت تک بہتا ہے۔ سب سے پہلے، ڈی این این ورچوئل نیوران کا نقشہ بناتا ہے اور ان کے درمیان رابطوں کے لیے بے ترتیب عددی اقدار، یا "وزن" تفویض کرتا ہے۔ وزن اور ان پٹ کو ضرب دی جاتی ہے اور 0 اور 1 کے درمیان آؤٹ پٹ واپس کرتی ہے۔ اگر نیٹ ورک کسی خاص نمونے کو درست طریقے سے نہیں پہچانتا ہے، تو ایک الگورتھم وزن کو ایڈجسٹ کرے گا۔ اس طرح الگورتھم کچھ پیرامیٹرز کو زیادہ بااثر بنا سکتا ہے، یہاں تک کہ یہ ڈیٹا کو مکمل طور پر پروسیس کرنے کے لیے صحیح ریاضیاتی ہیرا پھیری کا تعین کرتا ہے۔ ریکرنٹ نیورل نیٹ ورک (آر این این)، جس میں ڈیٹا کسی بھی سمت میں بہہ سکتا ہے، زبان کے ماڈلنگ جیسے ایپلی کیشنز کے لیے استعمال ہوتے ہیں۔ اس استعمال کے لیے طویل قلیل مدتی میموری خاص طور پر موثر ہے۔ کنوولوشنل ڈیپ نیورل نیٹ ورک (سی این این) کمپیوٹر وژن میں استعمال ہوتے ہیں۔ خودکار تقریر کی شناخت (اے ایس آر) کے لیے صوتی ماڈلنگ پر بھی سی این این کا اطلاق کیا گیا ہے۔ چیلنجز اے این این کی طرح، بے وقوف تربیت یافتہ ڈی این این کے ساتھ بھی بہت سے مسائل پیدا ہو سکتے ہیں۔ دو عام مسائل اوور فٹنگ اور کمپیوٹیشن ٹائم ہیں۔ ڈی این این تجریدی کی اضافی تہوں کی وجہ سے زیادہ فٹ ہونے کا شکار ہوتے ہیں، جو انہیں تربیتی ڈیٹا میں نایاب انحصار کا نمونہ بنانے کی اجازت دیتے ہیں۔ باقاعدگی کے طریقے جیسے آئواکھینکو کی یونٹ کٹائی یا وزن میں کمی (-ریگولرائزیشن) یا اسپرسٹی (-ریگولرائزیشن) کا اطلاق تربیت کے دوران اوور فٹنگ سے نمٹنے کے لیے کیا جا سکتا ہے۔ متبادل طور پر ڈراپ آؤٹ ریگولرائزیشن تربیت کے دوران چھپی ہوئی تہوں سے یونٹس کو تصادفی طور پر چھوڑ دیتی ہے۔ اس سے نایاب انحصار کو خارج کرنے میں مدد ملتی ہے۔ آخر میں، ڈیٹا کو کراپنگ اور گھومنے جیسے طریقوں کے ذریعے بڑھایا جا سکتا ہے تاکہ چھوٹے تربیتی سیٹوں کو سائز میں بڑھایا جا سکے تاکہ زیادہ فٹ ہونے کے امکانات کو کم کیا جا سکے۔ ڈی این این کو بہت سے تربیتی پیرامیٹرز پر غور کرنا چاہیے، جیسے کہ سائز (تہوں کی تعداد اور فی پرت اکائیوں کی تعداد)، سیکھنے کی شرح، اور ابتدائی وزن۔ وقت کی لاگت اور کمپیوٹیشنل وسائل کی وجہ سے زیادہ سے زیادہ پیرامیٹرز کے لیے پیرامیٹر کی جگہ کو صاف کرنا ممکن نہیں ہو سکتا۔ مختلف حرکتیں، جیسے بیچنگ (انفرادی مثالوں کے بجائے ایک ساتھ کئی تربیتی مثالوں پر میلان کا حساب لگانا) حساب کو تیز کرتی ہیں۔ کئی بنیادی آرکیٹیکچرز (جیسے جی پی یوز یا انٹیل زیون فائی) کی بڑی پروسیسنگ صلاحیتوں نے تربیت میں نمایاں رفتار پیدا کی ہے، کیونکہ میٹرکس اور ویکٹر کمپیوٹیشن کے لیے اس طرح کے پروسیسنگ آرکیٹیکچرز کی موزونیت ہے۔ متبادل طور پر، انجینئرز زیادہ سیدھے اور متغیر تربیتی الگورتھم کے ساتھ دیگر قسم کے نیورل نیٹ ورکس کی تلاش کر سکتے ہیں۔ سی ایم اے سی (سیری بیلر ماڈل آرٹیکیولیشن کنٹرولر) ایسی ہی ایک قسم کا نیورل نیٹ ورک ہے۔ اس کے لیے سیکھنے کی شرح یا بے ترتیب ابتدائی وزن کی ضرورت نہیں ہے۔ تربیتی عمل کو اعداد و شمار کے ایک نئے بیچ کے ساتھ ایک مرحلے میں یکجا ہونے کی ضمانت دی جا سکتی ہے، اور تربیتی الگورتھم کی کمپیوٹیشنل پیچیدگی شامل نیوران کی تعداد کے حوالے سے لکیری ہے۔ ہارڈ ویئر 2010 کی دہائی سے، مشین لرننگ الگورتھم اور کمپیوٹر ہارڈ ویئر دونوں میں پیشرفت گہرے عصبی نیٹ ورکس کی تربیت کے لیے زیادہ موثر طریقوں کا باعث بنی ہے جس میں غیر لکیری پوشیدہ اکائیوں کی بہت سی پرتیں اور ایک بہت بڑی آؤٹ پٹ پرت ہوتی ہے۔ 2019 تک، گرافک پروسیسنگ یونٹس (جی پی یوز)، اکثر اے آئی مخصوص اضافہ کے ساتھ، سی پی یوز کو بڑے پیمانے پر تجارتی کلاؤڈ اے آئی کی تربیت کے غالب طریقہ کے طور پر بے گھر کر چکے تھے۔ اوپن اے آئی نے الیکس نیٹ (2012) سے لے کر الفا زیرو (2017) تک کے سب سے بڑے ڈیپ لرننگ پروجیکٹس میں استعمال ہونے والے ہارڈ ویئر کمپیوٹیشن کا تخمینہ لگایا، اور 3.4 ماہ کی ڈبل ٹائم ٹرینڈ لائن کے ساتھ مطلوبہ کمپیوٹیشن کی مقدار میں 300,000 گنا اضافہ پایا۔ ڈیپ لرننگ پروسیسرز کہلانے والے خصوصی الیکٹرانک سرکٹس کو ڈیپ لرننگ الگورتھم کو تیز کرنے کے لیے ڈیزائن کیا گیا تھا۔ ڈیپ لرننگ پروسیسرز میں ہواوے سیل فونز میں نیورل پروسیسنگ یونٹس (این پی یو) اور گوگل کلاؤڈ پلیٹ فارم میں کلاؤڈ کمپیوٹنگ سرورز جیسے ٹینسر پروسیسنگ یونٹس (ٹی پی یو) شامل ہیں۔ سیریبراس سسٹمز نے بڑے ڈیپ لرننگ ماڈلز کو سنبھالنے کے لیے ایک وقف شدہ نظام بھی بنایا ہے، سی ایس-2، جو صنعت کے سب سے بڑے پروسیسر، دوسری نسل کے ویفر اسکیل انجن (ڈبلیو ایس ای-2) پر مبنی ہے۔ جوہری طور پر پتلی سیمی کنڈکٹرز کو توانائی سے موثر ڈیپ لرننگ ہارڈ ویئر کے لیے امید افزا سمجھا جاتا ہے جہاں منطق آپریشنز اور ڈیٹا اسٹوریج دونوں کے لیے ایک ہی بنیادی ڈیوائس کا ڈھانچہ استعمال کیا جاتا ہے۔ 2020 میں، ماریگا اور دیگر۔ فلوٹنگ گیٹ فیلڈ ایفیکٹ ٹرانجسٹرز (ایف جی ایف ای ٹی) پر مبنی منطق ان میموری ڈیوائسز اور سرکٹس تیار کرنے کے لیے ایک بڑے علاقے کے فعال چینل مواد کے ساتھ شائع شدہ تجربات۔ 2021 میں، جے فیلڈ مین اور دیگر۔ متوازی ارتقاء پروسیسنگ کے لیے ایک مربوط فوٹوونک ہارڈ ویئر ایکسلریٹر کی تجویز پیش کی۔ مصنفین اپنے الیکٹرانک ہم منصبوں کے مقابلے مربوط فوٹوونکس کے دو کلیدی فوائد کی نشاندہی کرتے ہیں: (1) فریکوئنسی کنگھی کے ساتھ مل کر طول موج ڈویژن ملٹی پلیکسنگ کے ذریعے بڑے پیمانے پر متوازی ڈیٹا کی منتقلی، اور (2) انتہائی اعلی ڈیٹا ماڈیولیشن کی رفتار۔ ان کا نظام فی سیکنڈ کھربوں ضرب جمع کرنے والی کارروائیوں کو انجام دے سکتا ہے، جو ڈیٹا بھاری اے آئی ایپلی کیشنز میں مربوط فوٹوونکس کی صلاحیت کی نشاندہی کرتا ہے۔ ایپلی کیشنز خودکار تقریر کی شناخت بڑے پیمانے پر خودکار تقریر کی شناخت گہری سیکھنے کا پہلا اور سب سے زیادہ قابل اعتماد کامیاب معاملہ ہے۔ ایل ایس ٹی ایم آر این این "ویری ڈیپ لرننگ" کام سیکھ سکتے ہیں جن میں کثیر سیکنڈ کے وقفے شامل ہوتے ہیں جن میں تقریر کے واقعات ہوتے ہیں جو ہزاروں مجرد وقت کے مراحل سے الگ ہوتے ہیں، جہاں ایک وقت کا مرحلہ تقریبا 10 ایم ایس سے مطابقت رکھتا ہے۔ بھول جانے والے دروازوں کے ساتھ ایل ایس ٹی ایم بعض کاموں پر روایتی تقریر پہچاننے والوں کے ساتھ مسابقتی ہے۔ تقریر کی شناخت میں ابتدائی کامیابی ٹی آئی ایم آئی ٹی پر مبنی چھوٹے پیمانے پر شناخت کے کاموں پر مبنی تھی۔ ڈیٹا سیٹ میں امریکی انگریزی کی آٹھ بڑی بولیوں کے 630 بولنے والے شامل ہیں، جہاں ہر بولنے والا 10 جملے پڑھتا ہے۔ اس کا چھوٹا سائز بہت سی ترتیبات کو آزمانے کی اجازت دیتا ہے۔ اس سے بھی اہم بات یہ ہے کہ ٹی آئی ایم آئی ٹی ٹاسک فون کی ترتیب کی شناخت سے متعلق ہے، جو لفظ کی ترتیب کی شناخت کے برعکس، کمزور فون بگ رام زبان کے ماڈلز کی اجازت دیتا ہے۔ اس سے تقریر کی شناخت کے صوتی ماڈلنگ کے پہلوؤں کی طاقت کا زیادہ آسانی سے تجزیہ کیا جا سکتا ہے۔ ذیل میں درج غلطی کی شرح، بشمول ان ابتدائی نتائج اور فیصد فون غلطی کی شرح (پی ای آر) کے طور پر ماپا گیا، 1991 سے خلاصہ کیا گیا ہے۔ 1990 کی دہائی کے آخر میں اسپیکر کی پہچان کے لیے ڈی این این کی شروعات اور 2009-2011 کے ارد گرد اور 2003-2007 کے ارد گرد ایل ایس ٹی ایم کی تقریر کی شناخت نے آٹھ بڑے شعبوں میں پیشرفت کو تیز کیا: اسکیل اپ/آؤٹ اور تیز ڈی این این ٹریننگ اور ڈیکوڈنگ سیکوینس امتیازی ٹریننگ فیچر پروسیسنگ ڈی این این اور متعلقہ ڈیپ ماڈلز کی موافقت ڈی این این اور متعلقہ ڈیپ ماڈلز سی این این کے ذریعے ملٹی ٹاسک اور ٹرانسفر لرننگ اور اسپیچ آر این این اور اس کے بھرپور ایل ایس ٹی ایم متغیرات کے ڈومین علم کا بہترین استحصال کرنے کے لیے انہیں کیسے ڈیزائن کیا جائے دیگر قسم کے ڈیپ ماڈلز بشمول ٹینسر پر مبنی ماڈل اور مربوط ڈیپ جنریٹو/امتیازی ماڈل۔ تمام بڑے تجارتی تقریر کی شناخت کے نظام (مثال کے طور پر، مائیکروسافٹ کورٹانا، ایکس بکس، اسکائپ ٹرانسلیٹر، ایمیزون الیکسا، گوگل ناؤ، ایپل سری، بیدو اور آئی فلائی ٹیک وائس سرچ، اور نیوانس اسپیچ پروڈکٹس وغیرہ کی ایک رینج) یہ گہری تعلیم پر مبنی ہیں۔ امیج ریکگنیشن امیج کی درجہ بندی کے لیے ایک عام تشخیصی سیٹ ایم این آئی ایس ٹی ڈیٹا بیس ڈیٹا سیٹ ہے۔ ایم این آئی ایس ٹی ہاتھ سے لکھے ہوئے ہندسوں پر مشتمل ہے اور اس میں 60,000 تربیتی مثالیں اور 10,000 ٹیسٹ مثالیں شامل ہیں۔ ٹی آئی ایم آئی ٹی کی طرح، اس کا چھوٹا سائز صارفین کو متعدد ترتیبات کی جانچ کرنے دیتا ہے۔ اس سیٹ پر نتائج کی ایک جامع فہرست دستیاب ہے۔ گہری سیکھنے پر مبنی تصویر کی شناخت "غیر انسانی" بن گئی ہے، جو انسانی حریفوں کے مقابلے میں زیادہ درست نتائج پیدا کرتی ہے۔ یہ سب سے پہلے 2011 میں ٹریفک کے نشانات کے اعتراف میں اور 2014 میں انسانی چہروں کے اعتراف کے ساتھ ہوا۔ گہری سیکھنے کی تربیت یافتہ گاڑیاں اب 360 ڈگری کیمرے کے نظاروں کی تشریح کرتی ہیں۔ ایک اور مثال چہرے کی ڈسمورفولوجی ناول تجزیہ (ایف ڈی این اے) ہے جو جینیاتی سنڈروم کے بڑے ڈیٹا بیس سے منسلک انسانی خرابی کے معاملات کا تجزیہ کرنے کے لیے استعمال ہوتا ہے۔ بصری آرٹ پروسیسنگ کا امیج ریکگنیشن میں ہونے والی پیش رفت سے گہرا تعلق مختلف بصری آرٹ کے کاموں میں گہری سیکھنے کی تکنیکوں کا بڑھتا ہوا اطلاق ہے۔ ڈی این این نے خود کو قابل ثابت کیا ہے، مثال کے طور پر، کسی دی گئی پینٹنگ کے اسٹائل پیریڈ کی شناخت کرنے کے لیے نیورل اسٹائل ٹرانسفر کسی دیئے گئے آرٹ ورک کے اسٹائل کو پکڑتا ہے اور اسے بے ترتیب بصری ان پٹ فیلڈز کی بنیاد پر دلکش امیجری پیدا کرنے والی صوابدیدی تصویر یا ویڈیو پر بصری طور پر خوشگوار انداز میں لاگو کرتا ہے۔ قدرتی زبان پروسیسنگ نیورل نیٹ ورک 2000 کی دہائی کے اوائل سے زبان کے نمونوں کو نافذ کرنے کے لیے استعمال کیے جا رہے ہیں۔ ایل ایس ٹی ایم نے مشین ترجمہ اور زبان کی ماڈلنگ کو بہتر بنانے میں مدد کی۔ اس شعبے میں دیگر کلیدی تکنیکیں منفی نمونے لینا اور لفظ کی سرایت کرنا ہیں۔ ورڈ ایمبیڈنگ، جیسے ورڈ 2 ویک، کو گہری سیکھنے کے فن تعمیر میں ایک نمائندگی پرت کے طور پر سوچا جا سکتا ہے جو ایک جوہری لفظ کو ڈیٹا سیٹ میں موجود دوسرے الفاظ سے متعلق لفظ کی پوزیشن کی نمائندگی میں تبدیل کرتا ہے۔ پوزیشن کو ویکٹر اسپیس میں ایک نقطہ کے طور پر پیش کیا جاتا ہے۔ آر این این ان پٹ پرت کے طور پر ورڈ ایمبیڈنگ کا استعمال نیٹ ورک کو ایک موثر کمپوزیشن ویکٹر گرامر کا استعمال کرتے ہوئے جملوں اور فقروں کو تجزیہ کرنے کی اجازت دیتا ہے۔ ایک جامع ویکٹر گرائمر کو ممکنہ سیاق و سباق سے پاک گرائمر (پی سی ایف جی) کے طور پر سمجھا جا سکتا ہے جسے آر این این کے ذریعے نافذ کیا جاتا ہے۔ لفظ کے سرایت کے اوپر بنائے گئے بار بار آٹو انکوڈر جملے کی مماثلت کا اندازہ لگا سکتے ہیں اور پیرا فریزنگ کا پتہ لگا سکتے ہیں۔ ڈیپ نیورل آرکیٹیکچرز انتخابی حلقے کی تجزیہ، جذبات کا تجزیہ، معلومات کی بازیافت، بولی جانے والی زبان کی تفہیم، مشین ترجمہ، سیاق و سباق سے متعلق ہستی کو جوڑنے، تحریری انداز کی شناخت، نام سے شناخت (ٹوکن کی درجہ بندی)، متن کی درجہ بندی، اور دیگر کے لیے بہترین نتائج فراہم کرتے ہیں۔ حالیہ پیش رفت جملے کی سرایت میں لفظ کی سرایت کو عام بناتی ہے۔ گوگل ٹرانسلیٹ (جی ٹی) ایک بڑے اینڈ ٹو اینڈ لانگ شارٹ ٹرم میموری (ایل ایس ٹی ایم) نیٹ ورک کا استعمال کرتا ہے۔ گوگل نیورل مشین ٹرانسلیشن (جی این ایم ٹی) ایک مثال پر مبنی مشین ترجمہ کا طریقہ استعمال کرتا ہے جس میں نظام "لاکھوں مثالوں سے سیکھتا ہے"۔ اس کا ترجمہ "ٹکڑوں کے بجائے ایک وقت میں پورے جملے" ہوتا ہے۔ گوگل ترجمہ ایک سو سے زیادہ زبانوں کی حمایت کرتا ہے۔ نیٹ ورک "جملے سے جملے کے ترجمے کو صرف حفظ کرنے کے بجائے جملے کے الفاظ" کو انکوڈ کرتا ہے۔ جی ٹی زیادہ تر زبان کے جوڑوں کے درمیان انگریزی کو انٹرمیڈیٹ کے طور پر استعمال کرتا ہے۔ منشیات کی دریافت اور زہریلا سائنس امیدوار ادویات کا ایک بڑا فیصد ریگولیٹری منظوری حاصل کرنے میں ناکام رہتا ہے۔ یہ ناکامیاں ناکافی افادیت (ہدف پر اثر)، ناپسندیدہ تعاملات (ہدف سے باہر کے اثرات)، یا غیر متوقع زہریلے اثرات کی وجہ سے ہوتی ہیں۔ تحقیق نے غذائی اجزاء، گھریلو مصنوعات اور منشیات میں حیاتیاتی سالماتی اہداف، غیر ہدف، اور ماحولیاتی کیمیکلز کے زہریلے اثرات کی پیش گوئی کے لیے گہری تعلیم کے استعمال کی کھوج کی ہے۔ ایٹم نیٹ ساخت پر مبنی عقلی منشیات کے ڈیزائن کے لیے ایک گہری سیکھنے کا نظام ہے۔ ایبولا وائرس اور ایک سے زیادہ سکلیروسیس جیسے بیماریوں کے اہداف کے لیے نئے امیدوار حیاتیاتی سالمات کی پیش گوئی کے لیے ایٹم نیٹ کا استعمال کیا گیا۔ 2017 میں گراف نیورل نیٹ ورک کا استعمال پہلی بار بڑے ٹاکسیکولوجی ڈیٹا سیٹ میں مالیکیولز کی مختلف خصوصیات کی پیش گوئی کے لیے کیا گیا تھا۔ 2019 میں، جنریٹو نیورل نیٹ ورکس کو ایسے مالیکیولز تیار کرنے کے لیے استعمال کیا گیا جن کی تجرباتی طور پر چوہوں میں توثیق کی گئی۔ گاہک تعلقات کا انتظام گہری کمک سیکھنے کا استعمال ممکنہ براہ راست مارکیٹنگ کے اقدامات کی قدر کا تخمینہ لگانے کے لیے کیا گیا ہے، جس کی تعریف آر ایف ایم متغیرات کے لحاظ سے کی گئی ہے۔ تخمینہ شدہ ویلیو فنکشن کو کسٹمر لائف ٹائم ویلیو کے طور پر قدرتی تشریح دکھایا گیا تھا۔ سفارش کے نظاموں نے مواد پر مبنی موسیقی اور جریدے کی سفارشات کے لیے ایک پوشیدہ عنصر ماڈل کے لیے بامعنی خصوصیات کو نکالنے کے لیے گہری تعلیم کا استعمال کیا ہے۔ متعدد ڈومینز سے صارف کی ترجیحات سیکھنے کے لیے ملٹی ویو ڈیپ لرننگ کا اطلاق کیا گیا ہے۔ یہ ماڈل ایک ہائبرڈ باہمی تعاون اور مواد پر مبنی نقطہ نظر کا استعمال کرتا ہے اور متعدد کاموں میں سفارشات کو بڑھاتا ہے۔ بائیو انفارمیٹکس ایک آٹو انکوڈر اے این این کا استعمال بائیو انفارمیٹکس میں جین آنٹولوجی اینوٹیشن اور جین فنکشن تعلقات کی پیش گوئی کے لیے کیا گیا تھا۔ میڈیکل انفارمیٹکس میں، ڈیپ لرننگ کا استعمال پہننے کے قابل اشیاء کے اعداد و شمار اور الیکٹرانک ہیلتھ ریکارڈ کے اعداد و شمار سے صحت کی پیچیدگیوں کی پیش گوئیوں کی بنیاد پر نیند کے معیار کی پیش گوئی کے لیے کیا گیا۔ ڈیپ لرننگ کو طبی استعمال میں مسابقتی نتائج پیدا کرنے کے لیے دکھایا گیا ہے جیسے کینسر سیل کی درجہ بندی، زخم کا پتہ لگانا، اعضاء کی تقسیم اور تصویر میں اضافہ۔ جدید ڈیپ لرننگ ٹولز مختلف بیماریوں کا پتہ لگانے کی اعلی درستگی اور تشخیص کی کارکردگی کو بہتر بنانے کے لیے ماہرین کے ذریعے ان کے استعمال کی مدد کا مظاہرہ کرتے ہیں۔ موبائل ایڈورٹائزنگ موبائل ایڈورٹائزنگ کے لیے موزوں موبائل سامعین تلاش کرنا ہمیشہ مشکل ہوتا ہے، کیونکہ کسی بھی اشتہاری سرور کے ذریعے اشتھاراتی خدمت میں ٹارگٹ سیگمنٹ بنانے اور استعمال کرنے سے پہلے بہت سے ڈیٹا پوائنٹس پر غور اور تجزیہ کرنا ضروری ہے۔ ڈیپ لرننگ کو بڑے، کئی جہتی اشتہاری ڈیٹا سیٹس کی تشریح کے لیے استعمال کیا گیا ہے۔ درخواست/خدمت/کلک انٹرنیٹ ایڈورٹائزنگ سائیکل کے دوران بہت سے ڈیٹا پوائنٹس جمع کیے جاتے ہیں۔ یہ معلومات اشتھاراتی انتخاب کو بہتر بنانے کے لیے مشین لرننگ کی بنیاد بن سکتی ہے۔ ڈیپ لرننگ کا استعمال ڈی نوائزنگ، سپر ریزولوشن، پینٹنگ اور فلم کلرائزیشن جیسے الٹا مسائل پر کامیابی کے ساتھ کیا گیا ہے۔ ان ایپلی کیشنز میں سیکھنے کے طریقے شامل ہیں جیسے "موثر تصویر کی بحالی کے لیے سکڑنے والے میدان" جو تصویر کے ڈیٹا سیٹ پر تربیت دیتے ہیں، اور ڈیپ امیج پریور، جو تصویر پر تربیت دیتے ہیں جس کی بحالی کی ضرورت ہوتی ہے۔ مالیاتی دھوکہ دہی کا پتہ لگانے، ٹیکس چوری کا پتہ لگانے اور منی لانڈرنگ کے خلاف ڈیپ لرننگ کا کامیابی سے اطلاق کیا جا رہا ہے۔ ملٹری ریاستہائے متحدہ کے محکمہ دفاع نے مشاہدے کے ذریعے نئے کاموں میں روبوٹ کو تربیت دینے کے لیے گہری تعلیم کا اطلاق کیا۔ جزوی تفریق مساوات طبیعیات سے باخبر عصبی نیٹ ورک کو ڈیٹا پر مبنی انداز میں آگے اور الٹا دونوں مسائل میں جزوی تفریق مساوات کو حل کرنے کے لیے استعمال کیا گیا ہے۔ ایک مثال نیویئر-اسٹوکس مساوات کے زیر انتظام دوبارہ تعمیر شدہ سیال کا بہاؤ ہے۔ طبیعیات سے باخبر عصبی نیٹ ورک کا استعمال کرنے کے لیے اکثر مہنگی میش نسل کی ضرورت نہیں ہوتی ہے جس پر روایتی سی ایف ڈی طریقے انحصار کرتے ہیں۔ امیج ری کنسٹرکشن امیج ری کنسٹرکشن امیج سے متعلق پیمائشوں سے بنیادی امیجز کی تعمیر نو ہے۔ کئی کاموں نے مختلف ایپلی کیشنز، جیسے سپیکٹرم امیجنگ اور الٹراساؤنڈ امیجنگ کے لیے تجزیاتی طریقوں کے مقابلے میں گہری سیکھنے کے طریقوں کی بہتر اور اعلی کارکردگی کو ظاہر کیا۔ ایپیجینیٹک گھڑی ایک بائیو کیمیکل ٹیسٹ ہے جسے عمر کی پیمائش کے لیے استعمال کیا جا سکتا ہے۔ گالکن اور دیگر۔ > 6,000 خون کے نمونوں کا استعمال کرتے ہوئے بے مثال درستگی کے ایپیجینیٹک ایجنگ کلاک کو تربیت دینے کے لیے گہرے عصبی نیٹ ورک کا استعمال کیا۔ گھڑی 1000 سی پی جی سائٹس سے معلومات کا استعمال کرتی ہے اور صحت مند کنٹرول سے پرانے کچھ حالات والے لوگوں کی پیش گوئی کرتی ہے: آئی بی ڈی، فرنٹوٹیمپورل ڈیمینشیا، بیضہ دانی کا کینسر، موٹاپا۔ عمر رسیدہ گھڑی کو 2021 میں عوامی استعمال کے لیے انسیلیکو میڈیسن کی اسپن آف کمپنی ڈیپ لانگیویٹی کے ذریعے جاری کرنے کا منصوبہ بنایا گیا تھا۔ انسانی علمی اور دماغی نشوونما سے تعلق گہری تعلیم کا دماغی نشوونما کے نظریات کی ایک کلاس (خاص طور پر، نیوکورٹیکل ڈویلپمنٹ) سے گہرا تعلق ہے جو 1990 کی دہائی کے اوائل میں علمی نیورو سائنسدانوں نے تجویز کیا تھا۔ ان ترقیاتی نظریات کو کمپیوٹیشنل ماڈلز میں فوری طور پر پیش کیا گیا، جس سے وہ گہری سیکھنے کے نظام کے پیشرو بن گئے۔ یہ ترقیاتی ماڈلز اس خاصیت کا اشتراک کرتے ہیں کہ دماغ میں سیکھنے کی مختلف مجوزہ حرکیات (مثال کے طور پر، اعصاب کی نشوونما کے عنصر کی لہر) گہری سیکھنے کے ماڈلز میں استعمال ہونے والے عصبی نیٹ ورکس سے کچھ حد تک مشابہت رکھنے والی خود تنظیم کی حمایت کرتی ہیں۔ نیوکورٹیکس کی طرح، نیورل نیٹ ورک پرتوں والے فلٹرز کی ایک درجہ بندی کا استعمال کرتے ہیں جس میں ہر پرت ایک سابقہ پرت (یا آپریٹنگ ماحول) سے معلومات پر غور کرتی ہے، اور پھر اپنی آؤٹ پٹ (اور ممکنہ طور پر اصل ان پٹ) کو دوسری تہوں میں منتقل کرتی ہے۔ یہ عمل ٹرانسڈیوسرز کا ایک خود منظم اسٹیک پیدا کرتا ہے، جو ان کے آپریٹنگ ماحول کے مطابق ہے۔ 1995 کی ایک تفصیل میں کہا گیا ہے، "ایسا لگتا ہے کہ بچے کا دماغ نام نہاد ٹرافک عوامل کی لہروں کے زیر اثر خود کو منظم کرتا ہے۔ دماغ کے مختلف حصے ترتیب سے جڑے ہوتے ہیں، ٹشو کی ایک پرت دوسرے سے پہلے پختہ ہوتی ہے اور اسی طرح جب تک کہ پورا دماغ پختہ نہ ہو جائے۔" نیورو بائیولوجیکل نقطہ نظر سے ڈیپ لرننگ ماڈلز کی امکانات کی تحقیقات کے لیے مختلف طریقوں کا استعمال کیا گیا ہے۔ ایک طرف، بیک پروپیگنڈاشن الگورتھم کی کئی قسمیں تجویز کی گئی ہیں تاکہ اس کی پروسیسنگ حقیقت پسندی کو بڑھایا جا سکے۔ دیگر محققین نے استدلال کیا ہے کہ گہری سیکھنے کی غیر نگرانی شدہ شکلیں، جیسے کہ درجہ بندی پیدا کرنے والے ماڈلز اور گہرے عقیدے کے نیٹ ورکس پر مبنی، حیاتیاتی حقیقت کے قریب ہوسکتی ہیں۔ اس سلسلے میں، جنریٹو نیورل نیٹ ورک ماڈل کا تعلق دماغی پرانتستا میں نمونے لینے پر مبنی پروسیسنگ کے بارے میں نیورو بائیولوجیکل شواہد سے ہے۔ اگرچہ انسانی دماغ کی تنظیم اور گہرے نیٹ ورکس میں نیورونل انکوڈنگ کے درمیان ایک منظم موازنہ ابھی تک قائم نہیں ہوا ہے، لیکن کئی مماثلتوں کی اطلاع دی گئی ہے۔ مثال کے طور پر، گہری سیکھنے کی اکائیوں کے ذریعہ انجام دی جانے والی گنتی اصل نیوران اور عصبی آبادی سے ملتی جلتی ہو سکتی ہے۔ اسی طرح، ڈیپ لرننگ ماڈلز کے ذریعہ تیار کردہ نمائشیں واحد اکائی اور آبادی کی سطح دونوں پر پرائمیٹ بصری نظام میں ناپی جانے والی نمائندگی سے ملتی جلتی ہیں۔ تجارتی سرگرمی فیس بک کی اے آئی لیب اپ لوڈ کی گئی تصاویر کو خود بخود ان میں موجود لوگوں کے ناموں سے ٹیگ کرنے جیسے کام انجام دیتی ہے۔ گوگل کی ڈیپ مائنڈ ٹیکنالوجیز نے ایک ایسا نظام تیار کیا ہے جو ڈیٹا ان پٹ کے طور پر صرف پکسلز کا استعمال کرتے ہوئے اٹاری ویڈیو گیمز کھیلنا سیکھنے کے قابل ہے۔ 2015 میں انہوں نے اپنے الفا گو سسٹم کا مظاہرہ کیا، جس نے ایک پیشہ ور گو پلیئر کو شکست دینے کے لیے گو کا کھیل اچھی طرح سے سیکھا۔ گوگل ٹرانسلیٹ 100 سے زیادہ زبانوں کے درمیان ترجمہ کرنے کے لیے ایک نیورل نیٹ ورک کا استعمال کرتا ہے۔ 2017 میں، Covariant.ai کا آغاز کیا گیا، جو فیکٹریوں میں گہری تعلیم کو مربوط کرنے پر مرکوز ہے۔ 2008 تک، یونیورسٹی آف ٹیکساس ایٹ آسٹن (یو ٹی) کے محققین نے ایک مشین لرننگ فریم ورک تیار کیا جسے ٹریننگ این ایجنٹ بذریعہ ایویلیوٹیو رینفورمیشن، یا ٹی اے ایم ای آر کہا جاتا ہے، جس نے روبوٹ یا کمپیوٹر پروگراموں کے لیے انسانی انسٹرکٹر کے ساتھ بات چیت کرکے کاموں کو انجام دینے کا طریقہ سیکھنے کے لیے نئے طریقے تجویز کیے۔ سب سے پہلے ٹیمر کے طور پر تیار کیا گیا، ڈیپ ٹیمر نامی ایک نیا الگورتھم بعد میں 2018 میں یو ایس آرمی ریسرچ لیبارٹری (اے آر ایل) اور یو ٹی محققین کے درمیان تعاون کے دوران متعارف کرایا گیا۔ ڈیپ ٹیمر نے روبوٹ کو مشاہدے کے ذریعے نئے کام سیکھنے کی صلاحیت فراہم کرنے کے لیے ڈیپ لرننگ کا استعمال کیا۔ ڈیپ ٹیمر کا استعمال کرتے ہوئے، ایک روبوٹ انسانی ٹرینر کے ساتھ ایک کام سیکھتا ہے، ویڈیو اسٹریمز دیکھتا ہے یا انسان کو ذاتی طور پر کسی کام کو انجام دیتے ہوئے دیکھتا ہے۔ روبوٹ نے بعد میں ٹرینر کی کچھ کوچنگ کی مدد سے اس کام کی مشق کی، جس نے "اچھی نوکری" اور "بری نوکری" جیسے تاثرات فراہم کیے۔ تنقید اور تبصرہ ڈیپ لرننگ نے تنقید اور تبصرہ دونوں کو اپنی طرف متوجہ کیا ہے، بعض صورتوں میں کمپیوٹر سائنس کے میدان سے باہر سے۔ نظریہ ایک اہم تنقید کچھ طریقوں کے ارد گرد نظریہ کی کمی سے متعلق ہے۔ سب سے عام گہرے آرکیٹیکچرز میں سیکھنا اچھی طرح سے سمجھے جانے والے گریڈینٹ ڈیسنٹ کا استعمال کرتے ہوئے نافذ کیا جاتا ہے۔ تاہم، دیگر الگورتھم کے ارد گرد نظریہ، جیسے کہ متضاد انحراف کم واضح ہے۔ (مثال کے طور پر، کیا یہ یکجا ہوتا ہے؟ اگر ایسا ہے تو کتنی تیزی سے؟ اس کا تخمینہ کیا ہے؟) گہری سیکھنے کے طریقوں کو اکثر بلیک باکس کے طور پر دیکھا جاتا ہے، جس میں زیادہ تر تصدیق نظریاتی طور پر کرنے کے بجائے تجرباتی طور پر کی جاتی ہے۔ دوسرے اس بات کی طرف اشارہ کرتے ہیں کہ گہری تعلیم کو مضبوط مصنوعی ذہانت کے ادراک کی طرف ایک قدم کے طور پر دیکھا جانا چاہیے، نہ کہ ایک جامع حل کے طور پر۔ گہری سیکھنے کے طریقوں کی طاقت کے باوجود، ان میں اب بھی اس مقصد کو مکمل طور پر حاصل کرنے کے لیے درکار زیادہ فعالیت کی کمی ہے۔ تحقیقی ماہر نفسیات گیری مارکس نے نوٹ کیا: حقیقت پسندانہ طور پر، گہری تعلیم ذہین مشینوں کی تعمیر کے بڑے چیلنج کا صرف ایک حصہ ہے۔ اس طرح کی تکنیکوں میں وجہ سے تعلقات کی نمائندگی کرنے کے طریقوں کی کمی ہے (.) منطقی نتائج کو انجام دینے کے کوئی واضح طریقے نہیں ہیں، اور وہ اب بھی تجریدی علم کو مربوط کرنے سے بہت دور ہیں، جیسے کہ اشیاء کیا ہیں، وہ کس کے لیے ہیں، اور وہ کس طرح عام طور پر استعمال ہوتے ہیں۔ سب سے طاقتور اے۔ آئی۔ نظام، جیسے واٹسن (.) گہری سیکھنے جیسی تکنیکوں کو تکنیکوں کے ایک بہت ہی پیچیدہ مجموعے میں صرف ایک عنصر کے طور پر استعمال کرتے ہیں، جس میں بایسیئن تخمینہ کی شماریاتی تکنیک سے لے کر تخفیف استدلال تک شامل ہیں۔ اس خیال کے مزید حوالے سے کہ علمی درجہ بندی کی نسبتا نچلی سطحوں میں فنکارانہ حساسیت موروثی ہو سکتی ہے، گہرے (20-30 تہوں) عصبی نیٹ ورکس کی اندرونی حالتوں کی گرافک نمائندگی کا ایک شائع شدہ سلسلہ جس میں بنیادی طور پر بے ترتیب ڈیٹا کے اندر ان تصاویر کو سمجھنے کی کوشش کی گئی جس پر انہیں تربیت دی گئی تھی، ایک بصری اپیل کا مظاہرہ کرتا ہے: اصل تحقیقی نوٹس کو 1,000 سے زیادہ تبصرے موصول ہوئے، اور یہ اس مضمون کا موضوع تھا جو ایک وقت کے لیے دی گارڈین کی ویب سائٹ پر سب سے زیادہ رسائی والا مضمون تھا۔ غلطیاں کچھ ڈیپ لرننگ آرکیٹیکچرز دشواری زدہ طرز عمل کو ظاہر کرتے ہیں، جیسے کہ اعتماد کے ساتھ ناقابل شناخت تصاویر کو عام تصاویر (2014) کے ایک واقف زمرے سے تعلق رکھنے کے طور پر درجہ بندی کرنا اور صحیح طریقے سے درجہ بند تصاویر (2013) کی معمولی پریشانیوں کو غلط درجہ بندی کرنا۔ گورٹزل نے قیاس کیا کہ یہ طرز عمل ان کی اندرونی نمائندگی میں حدود کی وجہ سے ہیں اور یہ حدود متنوع کثیر اجزاء مصنوعی جنرل انٹیلی جنس (اے جی آئی) آرکیٹیکچرز میں انضمام کو روک دیں گی۔ ان مسائل کو ممکنہ طور پر ڈیپ لرننگ آرکیٹیکچرز کے ذریعے حل کیا جا سکتا ہے جو اندرونی طور پر مشاہدہ شدہ اداروں اور واقعات کے امیج-گرامر سڑنے کے لیے یکساں حالتوں کی تشکیل کرتے ہیں۔ تربیتی اعداد و شمار سے گرائمر (بصری یا لسانی) سیکھنا نظام کو عام فہم استدلال تک محدود رکھنے کے مترادف ہوگا جو گرائمیکل پروڈکشن قوانین کے لحاظ سے تصورات پر چلتا ہے اور انسانی زبان کے حصول اور مصنوعی ذہانت (اے آئی) دونوں کا بنیادی مقصد ہے۔ سائبر خطرہ جیسے جیسے گہری تعلیم لیب سے دنیا میں منتقل ہوتی ہے، تحقیق اور تجربہ سے پتہ چلتا ہے کہ مصنوعی عصبی نیٹ ورک ہیکس اور دھوکہ دہی کا شکار ہوتے ہیں۔ ان نمونوں کی نشاندہی کرکے جو یہ نظام کام کرنے کے لیے استعمال کرتے ہیں، حملہ آور اے این این میں ان پٹ میں اس طرح سے ترمیم کر سکتے ہیں کہ اے این این کو ایک میچ مل جائے جسے انسانی مبصرین نہیں پہچان پائیں گے۔ مثال کے طور پر، ایک حملہ آور کسی تصویر میں ایسی باریک تبدیلیاں کر سکتا ہے کہ اے این این کو کوئی مماثلت مل جائے حالانکہ تصویر انسان کو تلاش کے ہدف کی طرح نظر نہیں آتی ہے۔ اس طرح کی ہیرا پھیری کو "مخالفانہ حملہ" کہا جاتا ہے۔ 2016 میں محققین نے ایک اے این این کا استعمال آزمائشی اور غلطی کے انداز میں تصاویر کو ڈاکٹر کرنے کے لیے کیا، دوسرے کے فوکل پوائنٹس کی شناخت کی اور اس طرح ایسی تصاویر تیار کیں جنہوں نے اسے دھوکہ دیا۔ ترمیم شدہ تصاویر انسانی آنکھوں سے مختلف نہیں لگ رہی تھیں۔ ایک اور گروپ نے دکھایا کہ اس کے بعد فوٹو گرافی کی گئی جعلی تصاویر کے پرنٹ آؤٹ نے امیج کی درجہ بندی کے نظام کو کامیابی سے دھوکہ دیا۔ ایک دفاع ریورس امیج سرچ ہے، جس میں ایک ممکنہ جعلی تصویر ٹن آئی جیسی سائٹ پر جمع کرائی جاتی ہے جو اس کے بعد اس کی دوسری مثالیں تلاش کر سکتی ہے۔ ایک اصلاح تصویر کے صرف کچھ حصوں کا استعمال کرتے ہوئے تلاش کرنا ہے، تاکہ ان تصاویر کی شناخت کی جا سکے جن سے وہ ٹکڑا لیا گیا ہو۔ ایک اور گروپ نے دکھایا کہ بعض نفسیاتی چشمے چہرے کی شناخت کے نظام کو یہ سوچنے میں بے وقوف بنا سکتے ہیں کہ عام لوگ مشہور شخصیات ہیں، ممکنہ طور پر ایک شخص کو دوسرے کی نقالی کرنے کی اجازت دیتا ہے۔ 2017 میں محققین نے علامات کو روکنے کے لیے اسٹیکرز شامل کیے اور ایک اے این این کی وجہ سے ان کی غلط درجہ بندی کی۔ تاہم اے این این کو دھوکہ دہی کی کوششوں کا پتہ لگانے کے لیے مزید تربیت دی جا سکتی ہے، ممکنہ طور پر حملہ آوروں اور محافظوں کو ہتھیاروں کی دوڑ میں اس طرح کی قیادت کی جا سکتی ہے جو پہلے سے ہی میلویئر دفاعی صنعت کی وضاحت کرتی ہے۔ اے این این کو اے این این پر مبنی اینٹی میلویئر سافٹ ویئر کو شکست دینے کے لیے تربیت دی گئی ہے جس میں بار بار میلویئر کے ساتھ دفاع پر حملہ کیا جاتا ہے جسے جینیاتی الگورتھم کے ذریعے مسلسل تبدیل کیا جاتا تھا یہاں تک کہ اس نے ہدف کو نقصان پہنچانے کی صلاحیت کو برقرار رکھتے ہوئے اینٹی میلویئر کو دھوکہ دیا۔ 2016 میں، ایک اور گروپ نے مظاہرہ کیا کہ کچھ آوازیں گوگل ناؤ وائس کمانڈ سسٹم کو ایک مخصوص ویب ایڈریس کھولنے پر مجبور کر سکتی ہیں، اور قیاس کیا کہ یہ "مزید حملوں کے لیے ایک قدم کے طور پر کام کر سکتا ہے (مثال کے طور پر، ڈرائیو بائی میلویئر کی میزبانی کرنے والا ویب پیج کھولنا)"۔ "ڈیٹا پوائزننگ" میں، غلط ڈیٹا کو مسلسل مشین لرننگ سسٹم کے ٹریننگ سیٹ میں اسمگل کیا جاتا ہے تاکہ اسے مہارت حاصل کرنے سے روکا جا سکے۔ ڈیٹا اکٹھا کرنے کی اخلاقیات زیادہ تر ڈیپ لرننگ سسٹم تربیت اور تصدیق کے ڈیٹا پر انحصار کرتے ہیں جو انسانوں کے ذریعہ تیار اور/یا تشریح شدہ ہوتے ہیں۔ میڈیا کے فلسفے میں یہ استدلال کیا گیا ہے کہ نہ صرف کم تنخواہ والا کلک ورک (جیسے. ایمیزون مکینیکل ترک پر) اس مقصد کے لیے باقاعدگی سے تعینات کیا جاتا ہے، لیکن انسانی مائکرو ورک کی مضمر شکلیں بھی جنہیں اکثر اس طرح تسلیم نہیں کیا جاتا ہے۔ فلسفی رینر مولہوف تربیتی ڈیٹا تیار کرنے کے لیے انسانی مائکرو ورک کے "مشینی کیپچر" کی پانچ اقسام میں فرق کرتے ہیں: (1) گیمیفیکیشن (گیم کے بہاؤ میں اینوٹیشن یا کمپیوٹیشن کے کاموں کو شامل کرنا)، (2) "ٹریپنگ اینڈ ٹریکنگ" (مثال کے طور پر۔ تصویر کی شناخت یا گوگل سرچ کے نتائج کے صفحات پر کلک ٹریکنگ کے لیے کیپچا)، (3) سماجی محرکات کا استحصال (جیسے. لیبل والے چہرے کی تصاویر حاصل کرنے کے لیے فیس بک پر چہروں کو ٹیگ کرنا)، (4) انفارمیشن مائننگ (مثال کے طور پر۔ کوانٹیفائیڈ سیلف ڈیوائسز جیسے ایکٹیویٹی ٹریکرز) اور (5) کلک ورک کا فائدہ اٹھاتے ہوئے۔ مولہوف کا استدلال ہے کہ ڈیپ لرننگ کی زیادہ تر تجارتی اختتامی صارف ایپلی کیشنز جیسے فیس بک کے چہرے کی شناخت کے نظام میں، اے این این کی تربیت کے بعد تربیتی ڈیٹا کی ضرورت نہیں رکتی ہے۔ بلکہ، اے این این کو مسلسل انشانکن اور اپ ڈیٹ کرنے کے لیے انسانی تخلیق کردہ تصدیق کے ڈیٹا کی مسلسل مانگ ہے۔ اس مقصد کے لیے فیس بک نے یہ فیچر متعارف کرایا کہ ایک بار جب صارف کسی تصویر میں خود بخود پہچانا جاتا ہے تو اسے نوٹیفکیشن موصول ہوتا ہے۔ وہ انتخاب کر سکتے ہیں کہ آیا وہ تصویر پر عوامی طور پر لیبل لگانا پسند نہیں کرتے، یا فیس بک کو بتا سکتے ہیں کہ تصویر میں وہ نہیں ہیں۔ یہ یوزر انٹرفیس نیٹ ورک کو حقیقی وقت میں مزید تربیت دینے کے لیے "تصدیق کے ڈیٹا کا ایک مستقل سلسلہ" پیدا کرنے کا ایک طریقہ کار ہے۔ جیسا کہ مولہوف کا استدلال ہے، تربیت اور تصدیق کے اعداد و شمار تیار کرنے کے لیے انسانی صارفین کی شمولیت ڈیپ لرننگ کے زیادہ تر تجارتی اختتامی صارف ایپلی کیشنز کے لیے اتنی عام ہے کہ ایسے نظاموں کو "انسانی امداد یافتہ مصنوعی ذہانت" کہا جا سکتا ہے۔ مزید دیکھیں مصنوعی ذہانت کی ایپلی کیشنز گہری سیکھنے والے سافٹ ویئر کا موازنہ کمپریسڈ سینسنگ تفریق پذیر پروگرامنگ ایکو اسٹیٹ نیٹ ورک مصنوعی ذہانت کے منصوبوں کی فہرست مائع اسٹیٹ مشین مشین کی فہرست مشین سیکھنے کی تحقیق کے لیے ڈیٹا سیٹس کی فہرست ریزروائر کمپیوٹنگ اسکیل اسپیس اور گہری سیکھنے کے لیے اسپارس کوڈنگ اسٹوچسٹک طوطے کے حوالہ جات مزید پڑھنا مصنوعی عصبی نیٹ ورک ابھرتی ہوئی ٹیکنالوجیز