Online machine learning
কম্পিউটার বিজ্ঞানে, অনলাইন মেশিন লার্নিং হল মেশিন লার্নিংয়ের একটি পদ্ধতি যেখানে ডেটা ক্রমানুসারে উপলব্ধ হয় এবং প্রতিটি ধাপে ভবিষ্যতের ডেটার জন্য সেরা ভবিষ্যদ্বাণীকারীকে আপডেট করতে ব্যবহৃত হয়, ব্যাচ লার্নিং কৌশলগুলির বিপরীতে যা একবারে পুরো প্রশিক্ষণ ডেটা সেটের উপর শেখার মাধ্যমে সেরা ভবিষ্যদ্বাণীকারী তৈরি করে। অনলাইন লার্নিং একটি সাধারণ কৌশল যা মেশিন লার্নিংয়ের ক্ষেত্রে ব্যবহৃত হয় যেখানে পুরো ডেটাসেটের উপর প্রশিক্ষণ দেওয়া গণনামূলকভাবে অসম্ভব, যার জন্য আউট-অফ-কোর অ্যালগরিদমের প্রয়োজন হয়। এটি এমন পরিস্থিতিতেও ব্যবহৃত হয় যেখানে অ্যালগরিদমের জন্য তথ্যের নতুন নিদর্শনগুলির সাথে গতিশীলভাবে খাপ খাইয়ে নেওয়া প্রয়োজন, অথবা যখন তথ্য নিজেই সময়ের একটি ফাংশন হিসাবে তৈরি করা হয়, যেমন, স্টক মূল্যের পূর্বাভাস। অনলাইন লার্নিং অ্যালগরিদমগুলি বিপর্যয়কর হস্তক্ষেপের প্রবণ হতে পারে, এমন একটি সমস্যা যা ক্রমবর্ধমান শিক্ষার পদ্ধতির মাধ্যমে সমাধান করা যেতে পারে। ভূমিকা তত্ত্বাবধানে শেখার বিন্যাসে, একটি ফাংশন শিখতে হবে, যেখানে ইনপুটগুলির একটি স্থান এবং আউটপুটগুলির একটি স্থান হিসাবে বিবেচিত হয়, যা একটি যৌথ সম্ভাব্যতা বিতরণ থেকে নেওয়া দৃষ্টান্তগুলির উপর ভাল ভবিষ্যদ্বাণী করে। বাস্তবে, শিক্ষার্থী কখনই দৃষ্টান্তের উপর প্রকৃত বন্টন জানে না। পরিবর্তে, শিক্ষার্থী সাধারণত উদাহরণের একটি প্রশিক্ষণ সেট অ্যাক্সেস আছে। এই সেটিংসে, লস ফাংশনটি এমনভাবে দেওয়া হয়, যা পূর্বাভাসকৃত মান এবং প্রকৃত মানের মধ্যে পার্থক্য পরিমাপ করে। আদর্শ লক্ষ্য হল একটি ফাংশন নির্বাচন করা, যেখানে একটি হাইপোথিসিস স্পেস নামে পরিচিত ফাংশনের একটি স্থান রয়েছে, যাতে মোট ক্ষতির কিছু ধারণা হ্রাস করা যায়। মডেলের প্রকারের উপর নির্ভর করে (পরিসংখ্যানগত বা প্রতিকূল), কেউ ক্ষতির বিভিন্ন ধারণা তৈরি করতে পারে, যা বিভিন্ন শেখার অ্যালগরিদমের দিকে পরিচালিত করে। অনলাইন শিক্ষার পরিসংখ্যানগত দৃষ্টিভঙ্গি পরিসংখ্যানগত শিক্ষার মডেলগুলিতে, প্রশিক্ষণের নমুনাটি প্রকৃত বন্টন থেকে নেওয়া হয়েছে বলে ধরে নেওয়া হয় এবং এর উদ্দেশ্য হল প্রত্যাশিত "ঝুঁকি" হ্রাস করা এই পরিস্থিতিতে একটি সাধারণ দৃষ্টান্ত হল অভিজ্ঞতাগত ঝুঁকি হ্রাস বা নিয়মিত অভিজ্ঞতাগত ঝুঁকি হ্রাসের (সাধারণত টিখোনভ নিয়মিতকরণ) মাধ্যমে একটি ফাংশন অনুমান করা। এখানে লস ফাংশনের পছন্দটি বেশ কয়েকটি সুপরিচিত লার্নিং অ্যালগরিদমের জন্ম দেয় যেমন নিয়মিত ন্যূনতম বর্গ এবং সাপোর্ট ভেক্টর মেশিন। এই বিভাগের একটি বিশুদ্ধ অনলাইন মডেল কেবলমাত্র নতুন ইনপুট, বর্তমান সেরা ভবিষ্যদ্বাণীকারী এবং কিছু অতিরিক্ত সঞ্চিত তথ্যের (যা সাধারণত প্রশিক্ষণ তথ্যের আকার থেকে স্বাধীনভাবে সঞ্চয়ের প্রয়োজনীয়তা থাকবে বলে আশা করা হয়) উপর ভিত্তি করে শিখবে। অনেক ফর্মুলেশনের জন্য, উদাহরণস্বরূপ অরৈখিক কার্নেল পদ্ধতিতে, প্রকৃত অনলাইন শিক্ষা সম্ভব নয়, যদিও পুনরাবৃত্তিমূলক অ্যালগরিদম সহ হাইব্রিড অনলাইন শিক্ষার একটি রূপ ব্যবহার করা যেতে পারে যেখানে নির্ভর করার অনুমতি দেওয়া হয় এবং পূর্ববর্তী সমস্ত ডেটা পয়েন্ট। এই ক্ষেত্রে, স্থানের প্রয়োজনীয়তাগুলি আর স্থির থাকার নিশ্চয়তা দেওয়া হয় না কারণ এর জন্য পূর্ববর্তী সমস্ত ডেটা পয়েন্ট সংরক্ষণ করা প্রয়োজন, তবে ব্যাচ শেখার কৌশলগুলির তুলনায় সমাধানটি একটি নতুন ডেটা পয়েন্ট যোগ করে গণনা করতে কম সময় নিতে পারে। উপরের সমস্যাগুলি কাটিয়ে ওঠার জন্য একটি সাধারণ কৌশল হল মিনি-ব্যাচগুলি ব্যবহার করে শেখা, যা একবারে ডেটা পয়েন্টের একটি ছোট ব্যাচ প্রক্রিয়া করে, এটিকে প্রশিক্ষণ পয়েন্টের মোট সংখ্যার তুলনায় অনেক কম সংখ্যক ছদ্ম-অনলাইন শিক্ষা হিসাবে বিবেচনা করা যেতে পারে। মেশিন লার্নিং অ্যালগরিদমের অপ্টিমাইজড আউট-অফ-কোর সংস্করণগুলি পেতে প্রশিক্ষণের তথ্য বারবার পাস করার জন্য মিনি-ব্যাচ কৌশলগুলি ব্যবহার করা হয়, উদাহরণস্বরূপ, স্টোকাস্টিক গ্রেডিয়েন্ট ডিসেন্ট। ব্যাকপ্রোপেগেশনের সাথে মিলিত হলে, এটি বর্তমানে কৃত্রিম স্নায়ুতন্ত্রের প্রশিক্ষণের জন্য কার্যত প্রশিক্ষণ পদ্ধতি। উদাহরণস্বরূপঃ রৈখিক সর্বনিম্ন বর্গ অনলাইন শিক্ষার বিভিন্ন ধারণা ব্যাখ্যা করতে রৈখিক সর্বনিম্ন বর্গের সহজ উদাহরণ ব্যবহার করা হয়। ধারণাগুলি অন্যান্য সেটিংসে প্রয়োগ করার জন্য যথেষ্ট সাধারণ, উদাহরণস্বরূপ, অন্যান্য উত্তল ক্ষতি ফাংশনের সাথে। ব্যাচ লার্নিং শিখতে হবে এমন একটি রৈখিক ফাংশন সহ তত্ত্বাবধানে শেখার সেটিং বিবেচনা করুনঃ যেখানে ইনপুটগুলির একটি ভেক্টর (ডেটা পয়েন্ট) এবং একটি রৈখিক ফিল্টার ভেক্টর। লক্ষ্য হল ফিল্টার ভেক্টর গণনা করা। এই লক্ষ্যে, ভেক্টর গণনা করার জন্য একটি বর্গ ক্ষতি ফাংশন ব্যবহার করা হয় যা যেখানে অভিজ্ঞতাগত ক্ষতি হ্রাস করে। ধরা যাক ডেটা ম্যাট্রিক্স এবং প্রথম ডেটা পয়েন্টের আগমনের পরে লক্ষ্য মানের কলাম ভেক্টর। ধরে নেওয়া যাক যে কোভ্যারিয়েন্স ম্যাট্রিক্সটি বিপরীতমুখী (অন্যথায় টিখোনভ নিয়মিতকরণের সাথে একই পদ্ধতিতে এগিয়ে যাওয়া অগ্রাধিকারযোগ্য), রৈখিক সর্বনিম্ন বর্গ সমস্যার সর্বোত্তম সমাধান দ্বারা দেওয়া হয়। এখন, কোভ্যারিয়েন্স ম্যাট্রিক্স গণনা করতে সময় লাগে, ম্যাট্রিক্সটি উল্টে দিতে সময় লাগে, বাকি গুণনে সময় লাগে, যা মোট সময় দেয়। যখন ডেটাসেটে মোট পয়েন্ট থাকে, প্রতিটি ডেটাপয়েন্ট আসার পরে সমাধানটি পুনরায় গণনা করার জন্য, সরল পদ্ধতির মোট জটিলতা থাকবে। লক্ষ্য করুন যে ম্যাট্রিক্স সংরক্ষণ করার সময়, প্রতিটি ধাপে এটি আপডেট করার জন্য শুধুমাত্র যোগ করা প্রয়োজন, যা সময় নেয়, মোট সময় কমিয়ে দেয়, তবে সংরক্ষণের জন্য অতিরিক্ত সঞ্চয় স্থান সহ। অনলাইন লার্নিংঃ রিকার্সিভ লিস্ট স্কোয়ারস রিকার্সিভ লিস্ট স্কোয়ারস (আরএলএস) অ্যালগরিদম লিস্ট স্কোয়ারস সমস্যার জন্য একটি অনলাইন পদ্ধতি বিবেচনা করে। এটি দেখানো যেতে পারে যে, পূর্ববর্তী বিভাগে প্রদত্ত রৈখিক সর্বনিম্ন বর্গ সমস্যার সমাধান নিম্নলিখিত পুনরাবৃত্তি দ্বারা গণনা করা যেতে পারেঃ উপরের পুনরাবৃত্তি অ্যালগরিদমটি ইন্ডাকশন অন ব্যবহার করে প্রমাণ করা যেতে পারে। প্রমাণও তা প্রমাণ করে। অভিযোজিত ফিল্টারগুলির প্রসঙ্গেও আরএলএস-এর দিকে নজর দেওয়া যেতে পারে (আরএলএস দেখুন)। এই অ্যালগরিদমের ধাপগুলির জটিলতা হল, যা সংশ্লিষ্ট ব্যাচ শেখার জটিলতার চেয়ে দ্রুত মাত্রার একটি ক্রম। এখানে প্রতিটি পদক্ষেপে সংরক্ষণের প্রয়োজনীয়তা হল ম্যাট্রিক্স সংরক্ষণ করা, যা স্থির থাকে। যখন বিপরীতমুখী নয়, তখন সমস্যা হ্রাস ফাংশনের নিয়মিত সংস্করণটি বিবেচনা করুন। তারপর, এটা দেখানো সহজ যে একই অ্যালগরিদম কাজ করে, এবং পুনরাবৃত্তি দিতে এগিয়ে যায়। স্টোকাস্টিক গ্রেডিয়েন্ট ডিসেন্ট যখন এটি দ্বারা বা দ্বারা প্রতিস্থাপিত হয়, এটি স্টোকাস্টিক গ্রেডিয়েন্ট ডিসেন্ট অ্যালগরিদম হয়ে ওঠে। এই ক্ষেত্রে, এই অ্যালগরিদমের ধাপগুলির জটিলতা হ্রাস পায়। প্রতিটি পদক্ষেপে সংরক্ষণের প্রয়োজনীয়তা স্থির থাকে। যাইহোক, উপরে বর্ণিত হিসাবে, প্রত্যাশিত ঝুঁকি হ্রাস সমস্যা সমাধানের জন্য ধাপের আকারটি সাবধানে বেছে নেওয়া দরকার। একটি ক্ষয়িষ্ণু ধাপের আকার নির্বাচন করে গড় পুনরাবৃত্তির অভিসরণ প্রমাণ করা যেতে পারে। এই সেটিংটি স্টোকাস্টিক অপ্টিমাইজেশনের একটি বিশেষ কেস, অপ্টিমাইজেশনের একটি সুপরিচিত সমস্যা। ইনক্রিমেন্টাল স্টোকাস্টিক গ্রেডিয়েন্ট ডিসেন্ট বাস্তবে, তথ্যের উপর একাধিক স্টোকাস্টিক গ্রেডিয়েন্ট পাস (চক্র বা যুগও বলা হয়) সম্পাদন করা যেতে পারে। এইভাবে প্রাপ্ত অ্যালগরিদমকে ইনক্রিমেন্টাল গ্রেডিয়েন্ট পদ্ধতি বলা হয় এবং এটি একটি পুনরাবৃত্তির সাথে সামঞ্জস্যপূর্ণ স্টোকাস্টিক গ্রেডিয়েন্ট পদ্ধতির সাথে প্রধান পার্থক্য হল এখানে একটি ক্রম বেছে নেওয়া হয়-তম ধাপে কোন প্রশিক্ষণ বিন্দু পরিদর্শন করা হবে তা নির্ধারণ করার জন্য। এই ধরনের ক্রম অপ্রচলিত বা নির্ণায়ক হতে পারে। পুনরাবৃত্তির সংখ্যা তারপর পয়েন্টের সংখ্যায় বিচ্ছিন্ন করা হয় (প্রতিটি পয়েন্ট একাধিকবার বিবেচনা করা যেতে পারে)। ইনক্রিমেন্টাল গ্রেডিয়েন্ট পদ্ধতিটি অভিজ্ঞতাগত ঝুঁকিকে একটি মিনিমাইজার প্রদান করতে দেখানো যেতে পারে। ক্রমবর্ধমান কৌশলগুলি সুবিধাজনক হতে পারে যখন অনেকগুলি শব্দের সমষ্টি নিয়ে গঠিত উদ্দেশ্যমূলক ফাংশনগুলি বিবেচনা করা হয়। একটি খুব বড় ডেটাসেটের সাথে সম্পর্কিত একটি পরীক্ষামূলক ত্রুটি। কার্নেল পদ্ধতি কার্নেলগুলি উপরের অ্যালগরিদমগুলিকে অ-প্যারামেট্রিক মডেলগুলিতে (বা মডেলগুলিতে যেখানে পরামিতিগুলি একটি অসীম মাত্রিক স্থান গঠন করে) প্রসারিত করতে ব্যবহার করা যেতে পারে। সংশ্লিষ্ট পদ্ধতিটি আর প্রকৃতপক্ষে অনলাইনে থাকবে না এবং এর পরিবর্তে সমস্ত ডেটা পয়েন্ট সংরক্ষণ করা হবে, তবে এটি ব্রুট ফোর্স পদ্ধতির চেয়ে দ্রুততর। এই আলোচনাটি বর্গ ক্ষতির ক্ষেত্রে সীমাবদ্ধ, যদিও এটি যে কোনও উত্তল ক্ষতির ক্ষেত্রে প্রসারিত করা যেতে পারে। এটি একটি সহজ প্রবর্তন দ্বারা দেখানো যেতে পারে যে যদি ডেটা ম্যাট্রিক্স হয় এবং এসজিডি অ্যালগরিদমের ধাপগুলির পরে আউটপুট হয়, তবে, কোথায় এবং ক্রমটি পুনরাবৃত্তিকে সন্তুষ্ট করেঃ এবং লক্ষ্য করুন যে এখানে কেবল স্ট্যান্ডার্ড কার্নেল চালু রয়েছে এবং ভবিষ্যদ্বাণীকারী ফর্মের। এখন, যদি এর পরিবর্তে একটি সাধারণ কার্নেল চালু করা হয় এবং ভবিষ্যদ্বাণীকারীকে হতে দেওয়া হয় তবে একই প্রমাণ দেখাবে যে পূর্বাভাসকারী সর্বনিম্ন বর্গের ক্ষতি হ্রাস করে উপরের পুনরাবৃত্তিকে পরিবর্তন করে প্রাপ্ত হয়। - তম ডেটাপয়েন্টের জন্য মূল্যায়ন করার সময় পুনরাবৃত্তির জন্য মোট সময় জটিলতা হল, যেখানে একক জোড়া পয়েন্টের উপর কার্নেল মূল্যায়নের খরচ। সুতরাং, কার্নেলের ব্যবহার একটি সীমাবদ্ধ মাত্রিক পরামিতি স্থান থেকে একটি কার্নেল দ্বারা প্রতিনিধিত্ব করা একটি সম্ভাব্য অসীম মাত্রিক বৈশিষ্ট্যে চলাচলের অনুমতি দিয়েছে, পরিবর্তে পরামিতিগুলির স্থানে পুনরাবৃত্তি সম্পাদন করে, যার মাত্রা প্রশিক্ষণ ডেটাসেটের আকারের সমান। সাধারণভাবে, এটি প্রতিনিধিত্বকারী উপপাদ্যের একটি পরিণতি। অনলাইন উত্তল অপ্টিমাইজেশন অনলাইন উত্তল অপ্টিমাইজেশন (ও. সি. ও) হল সিদ্ধান্ত গ্রহণের জন্য একটি সাধারণ কাঠামো যা দক্ষ অ্যালগরিদমের অনুমতি দেওয়ার জন্য উত্তল অপ্টিমাইজেশনের সুবিধা দেয়। কাঠামোটি নিম্নরূপ পুনরাবৃত্ত গেম খেলার জন্যঃ লার্নার একটি নির্দিষ্ট উত্তল সেট থেকে ইনপুট লার্নার আউটপুট গ্রহণ করে প্রকৃতি একটি উত্তল ক্ষতির ফাংশন ফেরত পাঠায়। শিক্ষার্থী ক্ষতির সম্মুখীন হয় এবং তার মডেল আপডেট করে লক্ষ্য হল অনুশোচনা, বা ক্রমবর্ধমান ক্ষতি এবং পশ্চাদদৃষ্টিতে সেরা স্থির পয়েন্টের ক্ষতির মধ্যে পার্থক্য হ্রাস করা। উদাহরণস্বরূপ, অনলাইন লেস্ট স্কোয়ার লিনিয়ার রিগ্রেশন-এর বিষয়টি বিবেচনা করুন। এখানে, ওজন ভেক্টরগুলি উত্তল সেট থেকে আসে এবং প্রকৃতি উত্তল হ্রাস ফাংশনটি ফেরত পাঠায়। এখানে নোট করুন যা অন্তর্নিহিতভাবে পাঠানো হয়েছে। কিছু অনলাইন পূর্বাভাস সমস্যা অবশ্য ও. সি. ও-র কাঠামোর সঙ্গে খাপ খায় না। উদাহরণস্বরূপ, অনলাইন শ্রেণিবিন্যাসে, পূর্বাভাস ক্ষেত্র এবং ক্ষতির কার্যকারিতা উত্তল নয়। এই ধরনের পরিস্থিতিতে, উত্তলকরণের জন্য দুটি সহজ কৌশল ব্যবহার করা হয়ঃ র্যান্ডমাইজেশন এবং সারোগেট লস ফাংশন। কিছু সহজ অনলাইন কনভেক্স অপ্টিমাইজেশান অ্যালগরিদম হলঃ ফলো দ্য লিডার (এফটিএল) শেখার সবচেয়ে সহজ নিয়ম হল (বর্তমান ধাপে) এমন অনুমান নির্বাচন করা যার অতীতের সমস্ত পর্যায়ে সবচেয়ে কম ক্ষতি হয়েছে। এই অ্যালগরিদমকে বলা হয় ফলো দ্য লিডার, এবং বৃত্তাকার সহজভাবে দেওয়া হয়ঃ এই পদ্ধতিটি একটি লোভী অ্যালগরিদম হিসাবে দেখা যেতে পারে। অনলাইন চতুর্ভুজ অপ্টিমাইজেশনের ক্ষেত্রে (যেখানে ক্ষতির কার্যকারিতা রয়েছে), একজন অনুশোচনা দেখাতে পারে যা ক্রমবর্ধমান হয়। তবে, অনলাইন লিনিয়ার অপ্টিমাইজেশনের মতো মডেলের অন্যান্য গুরুত্বপূর্ণ পরিবারের জন্য এফটিএল অ্যালগরিদমের জন্য অনুরূপ সীমা পাওয়া যায় না। এটি করার জন্য, নিয়মিতকরণ যোগ করে এফটিএল সংশোধন করা হয়। নিয়মিত নেতা (এফ. টি. আর. এল)-কে অনুসরণ করুন এটি এফ. টি. এল-এর একটি স্বাভাবিক পরিবর্তন যা এফ. টি. এল সমাধানগুলিকে স্থিতিশীল করতে এবং আরও ভাল অনুশোচনার সীমা অর্জন করতে ব্যবহৃত হয়। একটি নিয়মিতকরণ ফাংশন বেছে নেওয়া হয় এবং নিম্নরূপ পর্যায়ক্রমে শেখা হয়ঃ একটি বিশেষ উদাহরণ হিসাবে, অনলাইন লিনিয়ার অপ্টিমাইজেশনের বিষয়টি বিবেচনা করুন। যেখানে প্রকৃতি ফর্মের লস ফাংশনগুলি ফেরত পাঠায়। এছাড়াও, যাক। ধরুন কিছু ধনাত্মক সংখ্যার জন্য নিয়মিতকরণ ফাংশনটি বেছে নেওয়া হয়েছে। তারপরে, কেউ দেখাতে পারে যে অনুশোচনা হ্রাসকারী পুনরাবৃত্তিতে পরিণত হয় নোট যে এটি পুনরায় লেখা যেতে পারে, যা ঠিক অনলাইন গ্রেডিয়েন্ট বংশোদ্ভূতের মতো দেখায়। যদি এর পরিবর্তে কিছু উত্তল সাবস্পেস থাকে, তবে তার উপর অভিক্ষেপিত করা প্রয়োজন, যা পরিবর্তিত আপডেট নিয়মের দিকে পরিচালিত করে এই অ্যালগরিদমটি অলস অভিক্ষেপ হিসাবে পরিচিত, কারণ ভেক্টর গ্রেডিয়েন্টগুলি সংগ্রহ করে। এটি নেস্টেরভের দ্বৈত গড় অ্যালগরিদম নামেও পরিচিত। রৈখিক ক্ষতির ক্রিয়া এবং দ্বিঘাত নিয়মিতকরণের এই পরিস্থিতিতে, অনুশোচনা সীমাবদ্ধ থাকে এবং এইভাবে গড় অনুশোচনা কাঙ্ক্ষিত হিসাবে চলে যায়। অনলাইন সাবগ্র্যাডিয়েন্ট ডিসেন্ট (ওএসডি) উপরোক্ত বিষয়গুলি রৈখিক ক্ষতির কার্যকারিতার জন্য একটি অনুশোচনা হিসাবে প্রমাণিত হয়েছে। যে কোনও উত্তল ক্ষতি ফাংশনে অ্যালগরিদমকে সাধারণীকরণ করতে, এর উপ-গ্রেডিয়েন্টকে কাছাকাছি একটি রৈখিক আনুমানিক হিসাবে ব্যবহার করা হয়, যা অনলাইন উপ-গ্রেডিয়েন্ট ডিসেন্ট অ্যালগরিদমের দিকে নিয়ে যায়ঃ প্রকৃতি থেকে প্রাপ্ত পূর্বাভাসের জন্য প্রারম্ভিক পরামিতি। যদি নির্বাচন করুন, যদি হিসাবে আপডেট করুন, অর্থাৎ সঞ্চিত গ্রেডিয়েন্ট প্রকল্প করুন। শ্রেণিবিন্যাসের জন্য এসভিএম-এর অনলাইন সংস্করণের জন্য অনুশোচনা সীমা অর্জনের জন্য ওএসডি অ্যালগরিদম ব্যবহার করা যেতে পারে, যা কব্জি হ্রাস ব্যবহার করে অন্যান্য অ্যালগরিদম চতুর্ভুজগতভাবে নিয়মিত এফটিআরএল অ্যালগরিদমগুলি উপরে বর্ণিত হিসাবে অলসভাবে অভিক্ষিপ্ত গ্রেডিয়েন্ট অ্যালগরিদমের দিকে পরিচালিত করে। উপরেরটি নির্বিচারে উত্তল ফাংশন এবং নিয়মিতকরণের জন্য ব্যবহার করতে, অনলাইন মিরর ডিসেন্ট ব্যবহার করা হয়। রৈখিক ক্ষতি ফাংশনের জন্য পশ্চাদদৃষ্টিতে সর্বোত্তম নিয়মিতকরণ প্রাপ্ত করা যেতে পারে, এটি অ্যাডাগ্র্যাড অ্যালগরিদমের দিকে পরিচালিত করে। ইউক্লিডীয় নিয়মিতকরণের জন্য, কেউ একটি অনুশোচনার সীমা দেখাতে পারে, যা দৃঢ়ভাবে উত্তল এবং বহির্মুখী ক্ষতির জন্য আরও উন্নত করা যেতে পারে। ক্রমাগত শেখার অর্থ হল ক্রমাগত তথ্যের প্রবাহ প্রক্রিয়াকরণের মাধ্যমে শেখা মডেলের ক্রমাগত উন্নতি করা। ক্রমাগত পরিবর্তিত বাস্তব জগতে ইন্টারঅ্যাক্ট করা সফ্টওয়্যার সিস্টেম এবং স্বায়ত্তশাসিত এজেন্টদের জন্য ক্রমাগত শেখার ক্ষমতা অপরিহার্য। যাইহোক, ক্রমাগত শেখা মেশিন লার্নিং এবং নিউরাল নেটওয়ার্ক মডেলগুলির জন্য একটি চ্যালেঞ্জ কারণ অ-স্থির তথ্য বিতরণ থেকে ক্রমবর্ধমানভাবে উপলব্ধ তথ্যের ক্রমাগত অধিগ্রহণ সাধারণত বিপর্যয়কর ভুলে যাওয়ার দিকে পরিচালিত করে। অনলাইন শিক্ষার ব্যাখ্যা শেখার মডেলের পছন্দের উপর নির্ভর করে অনলাইন শিক্ষার দৃষ্টান্তের বিভিন্ন ব্যাখ্যা রয়েছে, যার প্রত্যেকটির ক্রিয়াকলাপের অনুক্রমের ভবিষ্যদ্বাণীমূলক গুণমান সম্পর্কে স্বতন্ত্র প্রভাব রয়েছে। এই আলোচনার জন্য প্রোটোটাইপিক্যাল স্টোকাস্টিক গ্রেডিয়েন্ট ডিসেন্ট অ্যালগরিদম ব্যবহার করা হয়। উপরে উল্লিখিত হিসাবে, এর পুনরাবৃত্তি দ্বারা দেওয়া হয়েছে প্রথম ব্যাখ্যাটি উপরে সংজ্ঞায়িত প্রত্যাশিত ঝুঁকি হ্রাস করার সমস্যার ক্ষেত্রে প্রয়োগ হিসাবে স্টোকাস্টিক গ্রেডিয়েন্ট ডিসেন্ট পদ্ধতি বিবেচনা করে। প্রকৃতপক্ষে, তথ্যের একটি অসীম প্রবাহের ক্ষেত্রে, যেহেতু উদাহরণগুলি অঙ্কিত বলে ধরে নেওয়া হয় অর্থাৎ। বন্টন থেকে, উপরের পুনরাবৃত্তির গ্রেডিয়েন্টের ক্রম হল একটি অর্থাৎ। প্রত্যাশিত ঝুঁকির গ্রেডিয়েন্টের স্টোকাস্টিক অনুমানের নমুনা এবং তাই বিচ্যুতি বেঁধে রাখার জন্য স্টোকাস্টিক গ্রেডিয়েন্ট ডিসেন্ট পদ্ধতির জন্য জটিলতার ফলাফল প্রয়োগ করা যেতে পারে, যেখানে এর মিনিমাইজারটি কোথায়। এই ব্যাখ্যাটি একটি সীমাবদ্ধ প্রশিক্ষণ সেটের ক্ষেত্রেও বৈধ; যদিও তথ্যের মাধ্যমে একাধিক পাসের সাথে গ্রেডিয়েন্টগুলি আর স্বাধীন নয়, তবুও বিশেষ ক্ষেত্রে জটিলতার ফলাফল পাওয়া যেতে পারে। দ্বিতীয় ব্যাখ্যাটি একটি সীমাবদ্ধ প্রশিক্ষণ সেটের ক্ষেত্রে প্রযোজ্য এবং এসজিডি অ্যালগরিদমকে ইনক্রিমেন্টাল গ্রেডিয়েন্ট ডিসেন্ট পদ্ধতির একটি উদাহরণ হিসাবে বিবেচনা করে। এই ক্ষেত্রে, পরিবর্তে অভিজ্ঞতাগত ঝুঁকির দিকে নজর দেওয়া হয়ঃ যেহেতু ইনক্রিমেন্টাল গ্রেডিয়েন্ট ডিসেন্ট পুনরাবৃত্তির গ্রেডিয়েন্টগুলিও এর গ্রেডিয়েন্টের স্টোকাস্টিক অনুমান, তাই এই ব্যাখ্যাটি স্টোকাস্টিক গ্রেডিয়েন্ট ডিসেন্ট পদ্ধতির সাথেও সম্পর্কিত, তবে প্রত্যাশিত ঝুঁকির বিপরীতে অভিজ্ঞতাগত ঝুঁকি হ্রাস করার জন্য প্রয়োগ করা হয়। যেহেতু এই ব্যাখ্যাটি অভিজ্ঞতাগত ঝুঁকির সাথে সম্পর্কিত এবং প্রত্যাশিত ঝুঁকির সাথে সম্পর্কিত নয়, তাই তথ্যের মধ্য দিয়ে একাধিক পাস সহজেই অনুমোদিত হয় এবং প্রকৃতপক্ষে বিচ্যুতিগুলির উপর আরও কঠোর সীমার দিকে পরিচালিত করে, যেখানে এর মিনিমাইজারটি রয়েছে। বাস্তবায়ন ভাউপাল ওয়াবিটঃ ওপেন-সোর্স ফাস্ট আউট-অফ-কোর অনলাইন লার্নিং সিস্টেম যা বেশ কয়েকটি মেশিন লার্নিং হ্রাস, গুরুত্ব ওজন এবং বিভিন্ন ক্ষতি ফাংশন এবং অপ্টিমাইজেশন অ্যালগরিদমের নির্বাচনকে সমর্থন করার জন্য উল্লেখযোগ্য। এটি প্রশিক্ষণের তথ্যের পরিমাণ থেকে স্বাধীন বৈশিষ্ট্যগুলির সেটের আকার সীমাবদ্ধ করার জন্য হ্যাশিং কৌশল ব্যবহার করে। স্কিকিট-লার্নঃ শ্রেণিবিন্যাসের জন্য অ্যালগরিদমগুলির আউট-অফ-কোর বাস্তবায়ন প্রদান করেঃ পারসেপ্ট্রন, এসজিডি শ্রেণীবিভাগ, নাইভ বায়েস শ্রেণীবিভাগ। রিগ্রেশনঃ এসজিডি রিগ্রেসার, প্যাসিভ অ্যাগ্রেসিভ রিগ্রেসার। ক্লাস্টারিংঃ মিনি-ব্যাচ কে-মানে। ফিচার এক্সট্রাকশনঃ মিনি-ব্যাচ অভিধান শিক্ষা, ইনক্রিমেন্টাল পিসিএ। আরও দেখুন লার্নিং প্যারাডিগমস ইনক্রিমেন্টাল লার্নিং অলস লার্নিং অফলাইন লার্নিং, বিপরীত মডেল রিইনফোর্সমেন্ট লার্নিং মাল্টি-আর্মড ব্যান্ডিট সুপারভাইজড লার্নিং জেনারেল অ্যালগরিদম অনলাইন অ্যালগরিদম অনলাইন অপ্টিমাইজেশন স্ট্রিমিং অ্যালগরিদম স্টোকাস্টিক গ্রেডিয়েন্ট ডিসেন্ট লার্নিং মডেল অ্যাডাপটিভ রিসোনেন্স থিওরি হায়ারার্কিকাল টেম্পোরাল মেমরি কে-নিকটতম প্রতিবেশী অ্যালগরিদম লার্নিং ভেক্টর কোয়ান্টাইজেশন পারসেপ্ট্রন রেফারেন্স এক্সটার্নাল লিঙ্ক 6.883: মেশিন লার্নিংয়ে অনলাইন পদ্ধতিঃ থিওরি এবং অ্যাপ্লিকেশন। আলেকজান্ডার রাখলিন। এমআইটি অনলাইন অ্যালগরিদম মেশিন লার্নিং অ্যালগরিদম