مفهوم نزول گرادئنت رو توضیح بدید.
گرادینت نزول یک الگوریتم بهینه سازی برای پیدا کردن حداقل یک تابع است. این الگوریتم معمولاً در یادگیری ماشین برای به حداقل رساندن تابع هزینه مرتبط با یک مدل داده شده مانند رگرسیون خطی، رگرسیون لجستیک و شبکه های عصبی برای بهبود دقت پیش بینی های مدل استفاده می شود. ایده اساسی پشت گرادینت نزول این است که به طور مکرر مقادیر پارامترها (یا وزنه ها) مدل را در جهت نزول شدیدترین تابع هزینه تنظیم کنیم. گرادینت تابع هزینه در رابطه با پارامترها به ما جهت نزول شدیدترین تابع را می دهد و بزرگی تابع به ما می گوید که شیب آن چقدر شیب است. در هر تکرار، پارامترها با انجام یک گام در جهت گرادینت منفی به روز می شوند. الگوریتم یادگیری فرمت های کوچک، اندازه یا مقدار یک گام را متفاوت می کند، و این الگوریتم به ما اجازه می دهد تا به