Online machine learning
کمپیوٹر سائنس میں، آن لائن مشین لرننگ مشین لرننگ کا ایک طریقہ ہے جس میں ڈیٹا ترتیب وار ترتیب میں دستیاب ہو جاتا ہے اور ہر مرحلے پر مستقبل کے ڈیٹا کے لیے بہترین پیشن گوئی کرنے والے کو اپ ڈیٹ کرنے کے لیے استعمال کیا جاتا ہے، جیسا کہ بیچ لرننگ تکنیک کے برعکس جو سیکھ کر بہترین پیشن گوئی پیدا کرتی ہے۔ آن لائن لرننگ مشین لرننگ کے شعبوں میں استعمال ہونے والی ایک عام تکنیک ہے جہاں پورے ڈیٹا سیٹ پر تربیت دینا کمپیوٹیشنل طور پر ناقابل عمل ہے، جس کے لیے آؤٹ آف کور الگورتھم کی ضرورت ہوتی ہے۔ یہ ان حالات میں بھی استعمال ہوتا ہے جہاں الگورتھم کے لیے ڈیٹا میں نئے نمونوں کو متحرک طور پر اپنانا ضروری ہوتا ہے، یا جب ڈیٹا خود وقت کی تقریب کے طور پر تیار کیا جاتا ہے، مثال کے طور پر اسٹاک کی قیمت کی پیش گوئی۔ آن لائن سیکھنے کے الگورتھم تباہ کن مداخلت کا شکار ہو سکتے ہیں، ایک ایسا مسئلہ جسے اضافی سیکھنے کے طریقوں سے حل کیا جا سکتا ہے۔ زیر نگرانی سیکھنے کی ترتیب میں، ایک فنکشن سیکھنا ہے، جہاں اسے ان پٹ کی جگہ اور آؤٹ پٹ کی جگہ کے طور پر سمجھا جاتا ہے، جو ان مثالوں پر اچھی طرح سے پیش گوئی کرتا ہے جو مشترکہ امکانات کی تقسیم سے تیار کیے جاتے ہیں۔ حقیقت میں، سیکھنے والا کبھی بھی مثالوں پر حقیقی تقسیم کو نہیں جانتا ہے۔ اس کے بجائے، سیکھنے والے کو عام طور پر تربیتی مثالوں تک رسائی حاصل ہوتی ہے۔ اس ترتیب میں، نقصان کی تقریب اس طرح دی گئی ہے، جو پیش گوئی شدہ قیمت اور حقیقی قیمت کے درمیان فرق کی پیمائش کرتی ہے۔ مثالی مقصد ایک فنکشن کا انتخاب کرنا ہے، جہاں فنکشن کی ایک جگہ ہے جسے مفروضہ جگہ کہا جاتا ہے، تاکہ کل نقصان کے کچھ تصور کو کم سے کم کیا جا سکے۔ ماڈل کی قسم (شماریاتی یا مخالف) پر منحصر ہے، کوئی بھی نقصان کے مختلف تصورات وضع کر سکتا ہے، جو سیکھنے کے مختلف الگورتھم کا باعث بنتا ہے۔ آن لائن سیکھنے کا شماریاتی نظریہ شماریاتی سیکھنے کے ماڈلز میں، یہ فرض کیا جاتا ہے کہ تربیتی نمونہ حقیقی تقسیم سے تیار کیا گیا ہے اور اس کا مقصد متوقع "رسک" کو کم کرنا ہے۔ اس صورت حال میں ایک عام نمونہ تجرباتی رسک کو کم سے کم کرنے یا تجرباتی رسک کو کم سے کم کرنے (عام طور پر تیکھونوف ریگولرائزیشن) کے ذریعے کسی فنکشن کا اندازہ لگانا ہے۔ یہاں لاس فنکشن کا انتخاب کئی معروف سیکھنے کے الگورتھم کو جنم دیتا ہے جیسے کہ ریگولیرائزڈ لیسٹ اسکوائرز اور سپورٹ ویکٹر مشینیں۔ اس زمرے میں ایک خالص آن لائن ماڈل صرف نئے ان پٹ، موجودہ بہترین پیشن گوئی کرنے والے اور کچھ اضافی ذخیرہ شدہ معلومات کی بنیاد پر سیکھے گا (جس میں عام طور پر تربیتی ڈیٹا کے سائز سے آزاد اسٹوریج کی ضروریات کی توقع کی جاتی ہے)۔ بہت سی فارمولیشنوں کے لیے، مثال کے طور پر غیر لکیری دانا کے طریقوں کے لیے، حقیقی آن لائن سیکھنا ممکن نہیں ہے، حالانکہ ریکرسو الگورتھم کے ساتھ ہائبرڈ آن لائن سیکھنے کی ایک شکل استعمال کی جا سکتی ہے جہاں انحصار کرنے کی اجازت ہے اور تمام پچھلے ڈیٹا پوائنٹس۔ اس صورت میں، جگہ کی ضروریات کو اب مستقل ہونے کی ضمانت نہیں دی جاتی ہے کیونکہ اس کے لیے تمام پچھلے ڈیٹا پوائنٹس کو ذخیرہ کرنے کی ضرورت ہوتی ہے، لیکن حل کو بیچ سیکھنے کی تکنیکوں کے مقابلے میں نئے ڈیٹا پوائنٹ کے اضافے کے ساتھ حساب کرنے میں کم وقت لگ سکتا ہے۔ مندرجہ بالا مسائل پر قابو پانے کے لیے ایک عام حکمت عملی منی بیچوں کا استعمال کرتے ہوئے سیکھنا ہے، جو ایک وقت میں ڈیٹا پوائنٹس کے ایک چھوٹے بیچ پر کارروائی کرتے ہیں، اسے ٹریننگ پوائنٹس کی کل تعداد سے بہت کم کے لیے سیوڈو آن لائن لرننگ سمجھا جا سکتا ہے۔ منی بیچ تکنیک کا استعمال ٹریننگ ڈیٹا کو بار بار منتقل کرنے کے ساتھ کیا جاتا ہے تاکہ مشین لرننگ الگورتھم کے بہتر آؤٹ آف کور ورژن حاصل کیے جا سکیں، مثال کے طور پر، اسٹاکسٹک گریڈینٹ ڈیسنٹ۔ جب بیک پروپیگنڈے کے ساتھ ملایا جاتا ہے، تو یہ فی الحال مصنوعی عصبی نیٹ ورک کی تربیت کے لیے عملی تربیتی طریقہ ہے۔ مثال: لکیری لیسٹ اسکوائرز لکیری لیسٹ اسکوائرز کی سادہ مثال آن لائن سیکھنے میں مختلف نظریات کی وضاحت کے لیے استعمال ہوتی ہے۔ خیالات اتنے عام ہیں کہ ان کا اطلاق دوسری ترتیبات پر کیا جا سکتا ہے، مثال کے طور پر، دیگر کنویکس نقصان کے افعال کے ساتھ۔ بیچ لرننگ سیکھنے کے لیے ایک لکیری فنکشن ہونے کے ساتھ سپروائزڈ لرننگ کی ترتیب پر غور کریں: جہاں ان پٹ (ڈیٹا پوائنٹس) کا ویکٹر ہے اور یہ ایک لکیری فلٹر ویکٹر ہے۔ مقصد فلٹر ویکٹر کا حساب لگانا ہے۔ اس مقصد کے لیے، ایک مربع نقصان فنکشن ویکٹر کا حساب لگانے کے لیے استعمال کیا جاتا ہے جو تجرباتی نقصان کو کم سے کم کرتا ہے۔ آئیے ڈیٹا میٹرکس بنیں اور پہلے ڈیٹا پوائنٹس کی آمد کے بعد ہدف اقدار کا کالم ویکٹر ہے۔ یہ فرض کرتے ہوئے کہ کوویرینس میٹرکس الٹا ہے (بصورت دیگر تیکھونوف ریگولرائزیشن کے ساتھ اسی طرح آگے بڑھنا ترجیحی ہے)، لکیری لیسٹ اسکوائرز کے مسئلے کا بہترین حل اس کے ذریعے دیا جاتا ہے۔ اب، کوویرینس میٹرکس کا حساب لگانے میں وقت لگتا ہے، میٹرکس کو الٹا کرنے میں وقت لگتا ہے، جبکہ باقی ضرب میں وقت لگتا ہے، جس سے کل وقت ملتا ہے۔ جب ڈیٹا سیٹ میں کل پوائنٹس ہوں، ہر ڈیٹا پوائنٹ کی آمد کے بعد حل کو دوبارہ گننے کے لیے، سادہ نقطہ نظر میں مکمل پیچیدگی ہوگی۔ نوٹ کریں کہ میٹرکس کو ذخیرہ کرتے وقت، پھر اسے ہر مرحلے پر اپ ڈیٹ کرنے کے لیے صرف اضافہ کرنے کی ضرورت ہوتی ہے، جس میں وقت لگتا ہے، جس سے کل وقت کم ہو جاتا ہے، لیکن ذخیرہ کرنے کے لیے اضافی اسٹوریج کی جگہ کے ساتھ۔ آن لائن لرننگ: ریکرسو لیسٹ اسکوائرز ریکرسو لیسٹ اسکوائرز (آر ایل ایس) الگورتھم لیسٹ اسکوائرز کے مسئلے کے لیے ایک آن لائن نقطہ نظر پر غور کرتا ہے۔ یہ دکھایا جا سکتا ہے کہ ابتدائی شکل دے کر اور پچھلے حصے میں دیے گئے لکیری لیسٹ اسکوائرز کے مسئلے کے حل کا حساب درج ذیل تکرار سے لگایا جا سکتا ہے: مندرجہ بالا تکرار الگورتھم کو انڈکشن آن کا استعمال کرتے ہوئے ثابت کیا جا سکتا ہے۔ ثبوت بھی اس بات کو ظاہر کرتا ہے۔ کوئی بھی آر ایل ایس کو انکولی فلٹرز کے تناظر میں بھی دیکھ سکتا ہے (آر ایل ایس دیکھیں)۔ اس الگورتھم کے مراحل کے لیے پیچیدگی ہے، جو کہ متعلقہ بیچ سیکھنے کی پیچیدگی سے زیادہ تیزی سے شدت کی ترتیب ہے۔ یہاں ہر قدم پر اسٹوریج کی ضروریات میٹرکس کو اسٹور کرنا ہے، جو کہ پر مستقل ہے۔ اس صورت کے لیے جب الٹا نہیں ہے، دشواری کے نقصان کی تقریب کے باقاعدہ ورژن پر غور کریں۔ پھر، یہ دکھانا آسان ہے کہ وہی الگورتھم کام کرتا ہے، اور تکرار دینا جاری رکھتے ہیں۔ جب اس کی جگہ یا اس سے لے لی جاتی ہے، تو یہ اسٹوچسٹک گریڈینٹ ڈیسنٹ الگورتھم بن جاتا ہے۔ اس صورت میں، اس الگورتھم کے مراحل کی پیچیدگی کم ہو جاتی ہے۔ ہر قدم پر اسٹوریج کی ضروریات مستقل ہیں۔ تاہم، ممکنہ خطرے کو کم کرنے کے مسئلے کو حل کرنے کے لیے مرحلہ وار سائز کو احتیاط سے منتخب کرنے کی ضرورت ہے، جیسا کہ اوپر تفصیل سے بتایا گیا ہے۔ گرنے والے مرحلے کے سائز کا انتخاب کرکے اوسط تکرار کی ہم آہنگی کو ثابت کیا جا سکتا ہے۔ یہ ترتیب سٹوچسٹک آپٹیمائزیشن کا ایک خاص معاملہ ہے، جو آپٹیمائزیشن میں ایک معروف مسئلہ ہے۔ انکریمنٹل اسٹوچسٹک گریڈینٹ ڈیسنٹ عملی طور پر، ڈیٹا پر متعدد اسٹوچسٹک گریڈینٹ پاس (جسے سائیکل یا ایپوکس بھی کہا جاتا ہے) انجام دے سکتا ہے۔ اس طرح حاصل کردہ الگورتھم کو انکریمنٹل گریڈینٹ طریقہ کہا جاتا ہے اور یہ ایک تکرار سے مطابقت رکھتا ہے۔ اسٹوچسٹک گریڈینٹ طریقہ کے ساتھ بنیادی فرق یہ ہے کہ یہاں یہ فیصلہ کرنے کے لیے ایک ترتیب کا انتخاب کیا جاتا ہے کہ-th مرحلے میں کس ٹریننگ پوائنٹ کا دورہ کیا گیا ہے۔ اس طرح کی ترتیب غیر معمولی یا فیصلہ کن ہو سکتی ہے۔ تکرار کی تعداد کو پھر پوائنٹس کی تعداد سے الگ کر دیا جاتا ہے (ہر پوائنٹ کو ایک سے زیادہ بار سمجھا جا سکتا ہے)۔ انکریمنٹل گریڈینٹ طریقہ تجرباتی خطرے کو کم سے کم فراہم کرنے کے لیے دکھایا جا سکتا ہے۔ اضافی تکنیکیں فائدہ مند ہو سکتی ہیں جب بہت سی اصطلاحات کے مجموعے سے بنے معروضی افعال پر غور کیا جائے۔ ایک تجرباتی غلطی جو ایک بہت بڑے ڈیٹا سیٹ سے مطابقت رکھتی ہے۔ دانا کے طریقوں کا استعمال مندرجہ بالا الگورتھم کو غیر پیرامیٹرک ماڈلز (یا ماڈل جہاں پیرامیٹرز ایک لامحدود جہتی جگہ بناتے ہیں) تک بڑھانے کے لیے کیا جا سکتا ہے۔ متعلقہ طریقہ کار اب واقعی آن لائن نہیں ہوگا اور اس کے بجائے تمام ڈیٹا پوائنٹس کو ذخیرہ کرنا شامل ہوگا، لیکن پھر بھی بروٹ فورس طریقہ سے تیز ہے۔ یہ بحث مربع نقصان کے معاملے تک محدود ہے، حالانکہ اسے کسی بھی کنویکس نقصان تک بڑھایا جا سکتا ہے۔ یہ ایک آسان انڈکشن کے ذریعے دکھایا جا سکتا ہے کہ اگر ڈیٹا میٹرکس ہے اور ایس جی ڈی الگورتھم کے مراحل کے بعد آؤٹ پٹ ہے، تو، کہاں اور ترتیب تکرار کو مطمئن کرتی ہے: اور نوٹ کریں کہ یہاں صرف معیاری دانا ہے، اور پیشن گوئی کرنے والا شکل کا ہے۔ اب، اگر اس کے بجائے ایک عام دانا متعارف کرایا جاتا ہے اور پیش گوئی کرنے والے کو ہونے دیا جاتا ہے تو وہی ثبوت یہ بھی ظاہر کرے گا کہ کم سے کم مربع نقصان کو کم کرنے والا پیش گوئی کرنے والا مذکورہ بالا تکرار کو تبدیل کرکے حاصل کیا جاتا ہے۔ - th ڈیٹاپوائنٹ کا اندازہ کرتے وقت ریکرشن کے لیے کل وقت کی پیچیدگی یہ ہے کہ پوائنٹس کے ایک جوڑے پر دانا کا اندازہ کرنے کی لاگت کہاں ہے۔ اس طرح، دانا کے استعمال نے ایک محدود جہتی پیرامیٹر کی جگہ سے ممکنہ طور پر لامحدود جہتی خصوصیت کی طرف حرکت کی اجازت دی ہے جس کی نمائندگی ایک دانا کرتا ہے اس کے بجائے پیرامیٹرز کی جگہ پر تکرار انجام دیتا ہے، جس کا طول و عرض ٹریننگ ڈیٹا سیٹ کے سائز کے برابر ہے۔ عام طور پر، یہ نمائندہ تھیوریم کا نتیجہ ہے۔ آن لائن کنویکس آپٹیمائزیشن آن لائن کنویکس آپٹیمائزیشن (او سی او) فیصلہ سازی کے لیے ایک عمومی فریم ورک ہے جو موثر الگورتھم کی اجازت دینے کے لیے کنویکس آپٹیمائزیشن کا فائدہ اٹھاتا ہے۔ فریم ورک یہ ہے کہ بار بار گیم کھیلنا مندرجہ ذیل ہے: لرنر کے لیے ایک فکسڈ کنویکس سیٹ سے ان پٹ لرنر آؤٹ پٹ موصول ہوتا ہے۔ فطرت ایک کنویکس لاس فنکشن کو واپس بھیجتی ہے۔ سیکھنے والا نقصان کا شکار ہوتا ہے اور اپنے ماڈل کو اپ ڈیٹ کرتا ہے مقصد افسوس کو کم کرنا ہے، یا مجموعی نقصان اور بہترین مقررہ نقطہ کے نقصان کے درمیان فرق کو کم کرنا ہے۔ مثال کے طور پر، آن لائن کم از کم مربع لکیری رجعت کے معاملے پر غور کریں۔ یہاں، وزن کے ویکٹر کنویکس سیٹ سے آتے ہیں، اور فطرت کنویکس لاس فنکشن کو واپس بھیجتی ہے۔ یہاں نوٹ کریں جو مضمر طور پر ساتھ بھیجا گیا ہے۔ تاہم کچھ آن لائن پیشن گوئی کے مسائل او سی او کے فریم ورک میں فٹ نہیں ہو سکتے۔ مثال کے طور پر، آن لائن درجہ بندی میں، پیشن گوئی کا ڈومین اور نقصان کے افعال کنویکس نہیں ہیں۔ ایسے منظرناموں میں، کنویکسفیکیشن کے لیے دو آسان تکنیکیں استعمال کی جاتی ہیں: رینڈمائزیشن اور سروگیٹ لاس فنکشن۔ کچھ سادہ آن لائن کنویکس آپٹیمائزیشن الگورتھم یہ ہیں: لیڈر کی پیروی کریں (ایف ٹی ایل) کوشش کرنے کے لیے سب سے آسان سیکھنے کا اصول (موجودہ مرحلے پر) اس مفروضے کو منتخب کرنا ہے جس کا پچھلے تمام دوروں میں سب سے کم نقصان ہوتا ہے۔ اس الگورتھم کو فالو دی لیڈر کہا جاتا ہے، اور گول صرف اس طرح دیا جاتا ہے: اس طرح اس طریقہ کو لالچی الگورتھم کے طور پر دیکھا جا سکتا ہے۔ آن لائن کواڈریٹک آپٹیمائزیشن کے معاملے میں (جہاں نقصان کی تقریب ہوتی ہے)، کوئی ایک افسوس کا پابند دکھا سکتا ہے جو جیسے جیسے بڑھتا جاتا ہے۔ تاہم، آن لائن لکیری آپٹیمائزیشن جیسے ماڈلز کے دیگر اہم خاندانوں کے لیے ایف ٹی ایل الگورتھم کے لیے اسی طرح کی حدود حاصل نہیں کی جا سکتی ہیں۔ ایسا کرنے کے لیے، باقاعدگی شامل کر کے ایف ٹی ایل میں ترمیم کی جاتی ہے۔ باقاعدہ لیڈر (ایف ٹی آر ایل) کی پیروی کریں یہ ایف ٹی ایل کی ایک قدرتی ترمیم ہے جو ایف ٹی ایل حل کو مستحکم کرنے اور بہتر افسوس کی حد حاصل کرنے کے لیے استعمال ہوتی ہے۔ ایک ریگولرائزیشن فنکشن کا انتخاب کیا جاتا ہے اور سیکھنا مندرجہ ذیل طریقے سے انجام دیا جاتا ہے: ایک خاص مثال کے طور پر، آن لائن لینیر آپٹیمائزیشن یعنی آن لائن لینیر آپٹیمائزیشن کے معاملے پر غور کریں۔ جہاں فطرت فارم کے نقصان کے افعال کو واپس بھیجتی ہے۔ نیز، جانے دیں۔ فرض کریں کہ ریگولیرائزیشن فنکشن کو کسی مثبت نمبر کے لیے منتخب کیا گیا ہے۔ پھر، کوئی یہ ظاہر کر سکتا ہے کہ افسوس کو کم کرنے والی تکرار بن جاتی ہے نوٹ کریں کہ اسے اس طرح دوبارہ لکھا جا سکتا ہے، جو بالکل آن لائن گریڈینٹ ڈیسنٹ کی طرح لگتا ہے۔ اگر اس کے بجائے کچھ کنویکس سب اسپیس ہے، تو اسے پیش کرنے کی ضرورت ہوگی، جس سے ترمیم شدہ اپ ڈیٹ رول کی طرف جاتا ہے۔ اس الگورتھم کو سست پروجیکشن کے نام سے جانا جاتا ہے، کیونکہ ویکٹر میلان کو جمع کرتا ہے۔ اسے نیسٹروف کا دوہری اوسط الگورتھم بھی کہا جاتا ہے۔ لکیری نقصان کے افعال اور کواڈریٹک ریگولرائزیشن کے اس منظر نامے میں، افسوس اس سے محدود ہے، اور اس طرح اوسط افسوس مطلوبہ حد تک جاتا ہے۔ آن لائن سب گریڈیئنٹ ڈیسنٹ (او ایس ڈی) مذکورہ بالا لکیری نقصان کے افعال کے لیے ایک افسوس ناک ثابت ہوا۔ الگورتھم کو کسی بھی کنویکس لاس فنکشن میں عام کرنے کے لیے، کے سب گریڈیئنٹ کو قریب کے لکیری تخمینے کے طور پر استعمال کیا جاتا ہے، جو آن لائن سب گریڈیئنٹ ڈیسنٹ الگورتھم کی طرف لے جاتا ہے: ابتدائی پیرامیٹر استعمال کرنے کے لیے، فطرت سے وصول کریں۔ اگر کا انتخاب کریں، اگر کے طور پر اپ ڈیٹ کریں، یعنی مجموعی گریڈینٹس کو پروجیکٹ کریں۔ درجہ بندی کے لیے ایس وی ایم کے آن لائن ورژن کے لیے افسوس کی حدود حاصل کرنے کے لیے او ایس ڈی الگورتھم کا استعمال کیا جا سکتا ہے، جو ہینج لاس کا استعمال کرتے ہیں۔ دیگر الگورتھم کواڈریٹک طور پر باقاعدہ ایف ٹی آر ایل الگورتھم سست انداز میں پیش کردہ گریڈینٹ الگورتھم کا باعث بنتے ہیں جیسا کہ اوپر بیان کیا گیا ہے۔ مذکورہ بالا کو صوابدیدی کنویکس افعال اور ریگولرائزرز کے لیے استعمال کرنے کے لیے، آن لائن آئینے کے نزول کا استعمال کیا جاتا ہے۔ پیچھے کی نظر میں زیادہ سے زیادہ باقاعدگی لکیری نقصان کے افعال کے لیے حاصل کی جا سکتی ہے، یہ اڈاگراڈ الگورتھم کی طرف جاتا ہے۔ یوکلڈین ریگولرائزیشن کے لیے، کوئی بھی افسوس کا اظہار کر سکتا ہے، جسے مضبوط کنویکس اور ایکسپو-کنکیو لاس افعال کے لیے مزید بہتر بنایا جا سکتا ہے۔ مسلسل سیکھنا مسلسل سیکھنے کا مطلب معلومات کے مسلسل سلسلے کو پروسیس کرکے سیکھے ہوئے ماڈل کو مسلسل بہتر بنانا ہے۔ مسلسل بدلتی ہوئی حقیقی دنیا میں بات چیت کرنے والے سافٹ ویئر سسٹمز اور خود مختار ایجنٹوں کے لیے مسلسل سیکھنے کی صلاحیتیں ضروری ہیں۔ تاہم، مسلسل سیکھنا مشین لرننگ اور نیورل نیٹ ورک ماڈلز کے لیے ایک چیلنج ہے کیونکہ غیر مستحکم ڈیٹا کی تقسیم سے اضافی طور پر دستیاب معلومات کا مسلسل حصول عام طور پر تباہ کن بھول جانے کا باعث بنتا ہے۔ آن لائن سیکھنے کی تشریحات آن لائن سیکھنے کے نمونے کی مختلف تشریحات ہوتی ہیں جو سیکھنے کے ماڈل کے انتخاب پر منحصر ہوتی ہیں، جن میں سے ہر ایک کے افعال کی ترتیب کے پیش گوئی کے معیار کے بارے میں الگ الگ مضمرات ہوتے ہیں۔ اس بحث کے لیے پروٹوٹائپکل سٹوچسٹک گریڈینٹ ڈیسنٹ الگورتھم استعمال کیا جاتا ہے۔ جیسا کہ اوپر بیان کیا گیا ہے، اس کی تکرار کی طرف سے دی گئی ہے۔ پہلی تشریح سٹوچسٹک گریڈینٹ ڈیسنٹ طریقہ پر غور کرتی ہے جیسا کہ اوپر بیان کردہ متوقع خطرے کو کم کرنے کے مسئلے پر لاگو ہوتا ہے۔ درحقیقت، اعداد و شمار کے لامحدود سلسلے کی صورت میں، چونکہ یہ فرض کیا جاتا ہے کہ مثالیں تیار کی گئی ہیں یعنی۔ تقسیم سے، مندرجہ بالا تکرار میں میلان کی ترتیب ایک یعنی ڈی ہے۔ متوقع خطرے کے میلان کے اسٹاکسٹک تخمینوں کا نمونہ اور اس وجہ سے کوئی بھی انحراف کو پابند کرنے کے لیے اسٹاکسٹک میلان کے طریقہ کار کے لیے پیچیدگی کے نتائج کا اطلاق کر سکتا ہے، جہاں کا کم سے کم ہے۔ یہ تشریح ایک محدود تربیتی سیٹ کے معاملے میں بھی درست ہے ؛ اگرچہ اعداد و شمار سے متعدد پاس کے ساتھ میلان اب آزاد نہیں ہیں، پھر بھی پیچیدگی کے نتائج خصوصی معاملات میں حاصل کیے جا سکتے ہیں۔ دوسری تشریح ایک محدود تربیتی سیٹ کے معاملے پر لاگو ہوتی ہے اور ایس جی ڈی الگورتھم کو انکریمنٹل گریڈینٹ ڈیسنٹ طریقہ کار کی مثال کے طور پر سمجھتی ہے۔ اس معاملے میں، اس کے بجائے تجرباتی خطرے کو دیکھا جاتا ہے: چونکہ انکریمنٹل گریڈینٹ ڈیسنٹ تکرار کے میلان بھی گریڈینٹ کے اسٹاکسٹک تخمینے ہیں، اس تشریح کا تعلق اسٹاکسٹک گریڈینٹ ڈیسنٹ طریقہ سے بھی ہے، لیکن اس کا اطلاق متوقع خطرے کے برخلاف تجرباتی خطرے کو کم کرنے کے لیے کیا جاتا ہے۔ چونکہ اس تشریح کا تعلق تجرباتی خطرے سے ہے نہ کہ متوقع خطرے سے، اعداد و شمار کے ذریعے متعدد پاسز کو آسانی سے اجازت دی جاتی ہے اور حقیقت میں انحراف پر سخت حدود کا باعث بنتی ہے، جہاں کا کم سے کم ہے۔ نفاذ ووپل ویبٹ: اوپن سورس فاسٹ آؤٹ آف کور آن لائن لرننگ سسٹم جو مشین لرننگ میں کمی، اہمیت کے وزن اور نقصان کے مختلف افعال اور اصلاح کے الگورتھم کے انتخاب کی حمایت کرنے کے لیے قابل ذکر ہے۔ یہ تربیتی ڈیٹا کی مقدار سے آزاد خصوصیات کے سیٹ کے سائز کو محدود کرنے کے لیے ہیشنگ ٹرک کا استعمال کرتا ہے۔ اسککیٹ لرن: درجہ بندی کے لیے الگورتھم کے بنیادی نفاذ فراہم کرتا ہے: پرسیپٹرون، ایس جی ڈی درجہ بندی، نائیو بیز درجہ بندی۔ رجعت: ایس جی ڈی رجعت کار، غیر فعال جارحانہ رجعت کار۔ کلسٹرنگ: منی بیچ کے کا مطلب ہے۔ فیچر ایکسٹرکشن: منی بیچ ڈکشنری لرننگ، انکریمینٹل پی سی اے۔ سیکھنے کے نمونے بھی دیکھیں انکریمینٹل لرننگ سست سیکھنا آف لائن سیکھنا، مخالف ماڈل کمک سیکھنا کثیر مسلح ڈاکو نگرانی سیکھنا عمومی الگورتھم آن لائن الگورتھم آن لائن آپٹیمائزیشن اسٹریمنگ الگورتھم اسٹاکسٹک گریڈینٹ ڈیسنٹ لرننگ ماڈل انکولی گونج تھیوری ہائیرارکیکل عارضی میموری کے-قریب پڑوسی الگورتھم سیکھنا ویکٹر کوانٹائزیشن پرسیپٹرون حوالہ جات بیرونی لنکس 6.883: مشین لرننگ میں آن لائن طریقے: تھیوری اور ایپلی کیشنز۔ الیگزینڈر رخلن۔ ایم آئی ٹی آن لائن الگورتھم مشین لرننگ الگورتھم