Gradient boosting
گریڈینٹ بوسٹنگ ایک مشین لرننگ تکنیک ہے جو رجعت اور درجہ بندی کے کاموں میں استعمال ہوتی ہے۔ یہ ایک پیشن گوئی ماڈل کمزور پیشن گوئی کے ماڈلز کے مجموعے کی شکل میں دیتا ہے، یعنی وہ ماڈل جو اعداد و شمار کے بارے میں بہت کم مفروضے بناتے ہیں، جو عام طور پر سادہ فیصلہ کرنے والے درخت ہوتے ہیں۔ جب کوئی فیصلہ ٹری کمزور سیکھنے والا ہوتا ہے، تو اس کے نتیجے میں الگورتھم کو گریڈینٹ-بوسٹڈ ٹری کہا جاتا ہے۔ یہ عام طور پر بے ترتیب جنگل سے بہتر کارکردگی کا مظاہرہ کرتا ہے۔ ایک گریڈینٹ-بوسٹڈ ٹری ماڈل دوسرے بوسٹنگ طریقوں کی طرح مرحلے کے لحاظ سے بنایا گیا ہے، لیکن یہ صوابدیدی تفریق پذیر نقصان کی تقریب کو بہتر بنانے کی اجازت دے کر دوسرے طریقوں کو عام کرتا ہے۔ گریڈینٹ بوسٹنگ کا خیال لیو بریمن کے مشاہدے میں شروع ہوا کہ بوسٹنگ کو مناسب لاگت فنکشن پر اصلاح کے الگورتھم کے طور پر سمجھا جا سکتا ہے۔ واضح رجعت میلان کو بڑھانے والے الگورتھم بعد میں جیروم ایچ فریڈمین کے ذریعہ تیار کیے گئے، بیک وقت لیو میسن، جوناتھن بیکسٹر، پیٹر بارٹلیٹ اور مارکس فرین کے زیادہ عمومی فعال میلان کو بڑھانے والے نقطہ نظر کے ساتھ۔ مؤخر الذکر دو پیپرز نے الگورتھم کو بڑھانے کے نقطہ نظر کو تکراری فنکشنل گریڈینٹ ڈیسنٹ الگورتھم کے طور پر متعارف کرایا۔ یعنی، الگورتھم جو فنکشن کی جگہ پر لاگت فنکشن کو بہتر بناتے ہیں، بار بار ایک فنکشن (کمزور مفروضہ) کا انتخاب کرتے ہیں جو منفی میلان کی سمت کی طرف اشارہ کرتا ہے۔ فروغ دینے کے اس فعال میلان کے نقطہ نظر نے رجعت اور درجہ بندی سے بالاتر مشین لرننگ اور اعداد و شمار کے بہت سے شعبوں میں الگورتھم کو فروغ دینے کی ترقی کا باعث بنا ہے۔ غیر رسمی تعارف (یہ سیکشن چینگ لی کی طرف سے گریڈینٹ بوسٹنگ کی نمائش کے بعد ہے۔) فروغ دینے کے دیگر طریقوں کی طرح، گریڈینٹ بوسٹنگ کمزور "سیکھنے والوں" کو تکراری انداز میں ایک مضبوط سیکھنے والے میں جوڑتا ہے۔ کم سے کم مربع رجعت کی ترتیب میں اس کی وضاحت کرنا سب سے آسان ہے، جہاں مقصد اوسط مربع کی غلطی کو کم سے کم کرکے فارم کی اقدار کی پیش گوئی کرنے کے لیے کسی ماڈل کو "سکھانا" ہے، جہاں آؤٹ پٹ متغیر کی اصل اقدار کے سائز کے کچھ تربیتی سیٹ پر انڈیکس ہوتا ہے: پیش گوئی شدہ قدر مشاہدہ شدہ قدر میں نمونوں کی تعداد۔ اب، آئیے مراحل کے ساتھ میلان بڑھانے والے الگورتھم پر غور کریں۔ گریڈینٹ بوسٹنگ کے ہر مرحلے () پر، فرض کریں کہ کچھ نامکمل ماڈل (کم کے لیے، یہ ماڈل آسانی سے واپس آسکتا ہے، جہاں RHS کا اوسط ہے)۔ بہتر بنانے کے لیے، ہمارے الگورتھم کو کچھ نیا تخمینہ لگانے والا شامل کرنا چاہیے۔ اس طرح، یا، مساوی طور پر،۔ لہذا، گریڈینٹ بوسٹنگ بقیہ کے مطابق ہو گی۔ دوسرے فروغ دینے والے متغیرات کی طرح، ہر ایک اپنے پیشرو کی غلطیوں کو درست کرنے کی کوشش کرتا ہے۔ اسکوائرڈ ایرر کے علاوہ نقصان کے افعال، اور درجہ بندی اور درجہ بندی کے مسائل کے لیے اس خیال کی عمومی شکل، اس مشاہدے سے ملتی ہے کہ کسی دیئے گئے ماڈل کے لیے بقایا اوسط مربع غلطی (ایم ایس ای) نقصان فنکشن (کے حوالے سے) کے منفی میلان کے متناسب ہوتے ہیں: لہذا، گریڈیئنٹ بوسٹنگ ایک گریڈیئنٹ ڈیسنٹ الگورتھم کے لیے خصوصی ہو سکتی ہے، اور اسے عام کرنے میں ایک مختلف نقصان اور اس کے گریڈیئنٹ کو "پلگ ان" کرنا شامل ہے۔ الگورتھم بہت سے زیر نگرانی سیکھنے کے مسائل میں ایک آؤٹ پٹ متغیر اور ان پٹ متغیرات کا ایک ویکٹر ہوتا ہے، جو کچھ ممکنہ تقسیم کے ساتھ ایک دوسرے سے متعلق ہوتا ہے۔ مقصد کچھ فنکشن تلاش کرنا ہے جو ان پٹ متغیرات کی اقدار سے آؤٹ پٹ متغیر کا بہترین تخمینہ لگاتا ہے۔ اسے کچھ نقصان کی تقریب متعارف کروا کر اور توقع میں اسے کم سے کم کر کے باقاعدہ بنایا جاتا ہے: گریڈینٹ بوسٹنگ کا طریقہ حقیقی قدر کا حامل ہے۔ یہ کسی طبقے سے افعال کے وزن کے مجموعے کی شکل میں ایک تخمینہ طلب کرتا ہے، جسے بیس (یا کمزور) سیکھنے والے کہتے ہیں: ہمیں عام طور پر نمونے کی معلوم اقدار اور ان سے متعلق اقدار کا ایک تربیتی مجموعہ دیا جاتا ہے۔ تجرباتی رسک کم سے کم کرنے کے اصول کے مطابق، یہ طریقہ ایک ایسا تخمینہ تلاش کرنے کی کوشش کرتا ہے جو ٹریننگ سیٹ پر لاس فنکشن کی اوسط قیمت کو کم سے کم کرتا ہے، یعنی تجرباتی رسک کو کم سے کم کرتا ہے۔ یہ ایک ماڈل سے شروع ہوتا ہے، جو ایک مستقل فنکشن پر مشتمل ہوتا ہے، اور اسے لالچی انداز میں بڑھاتا ہے:، کے لیے، بنیادی سیکھنے والا فنکشن کہاں ہے۔ بدقسمتی سے، صوابدیدی نقصان فنکشن کے لیے ہر مرحلے پر بہترین فنکشن کا انتخاب کرنا عام طور پر ایک کمپیوٹیشنل طور پر ناقابل عمل اصلاح کا مسئلہ ہے۔ لہذا، ہم اپنے نقطہ نظر کو مسئلے کے آسان ورژن تک محدود رکھتے ہیں۔ خیال یہ ہے کہ اس کم سے کم مسئلے (فنکشنل گریڈینٹ ڈیسنٹ) پر سب سے تیز نزول کا قدم لگایا جائے۔ سب سے تیز نزول کے پیچھے بنیادی خیال یہ ہے کہ اس پر تکرار کرکے نقصان کی تقریب کا مقامی کم از کم تلاش کیا جائے۔ درحقیقت، لاس فنکشن کی مقامی زیادہ سے زیادہ نزول کی سمت منفی میلان ہے۔ لہذا، ایک چھوٹی سی رقم کو اس طرح منتقل کرنا کہ لکیری تخمینہ درست رہے: جہاں۔ چھوٹے کے لیے، اس کا مطلب یہ ہے۔ مندرجہ ذیل کو ثابت کرنے کے لیے، مقصد پر غور کریں کہ مقررہ نقطہ کے ارد گرد پہلے ترتیب تک ٹیلر کی توسیع کرنا اب ڈبلیو آر ٹی سے فرق کرتے ہوئے، صرف دوسری اصطلاح کا مشتق باقی رہتا ہے۔ یہ سب سے تیز چڑھائی کی سمت ہے اور اس لیے ہمیں سب سے تیز نزول کی سمت میں آگے بڑھنے کے لیے مخالف (یعنی منفی) سمت میں آگے بڑھنا چاہیے۔ مزید برآں، ہم اس قدر کو تلاش کر کے بہتر بنا سکتے ہیں جس کے لیے لاس فنکشن کم سے کم ہے: اگر ہم مسلسل صورت پر غور کریں، یعنی، جہاں من مانی تفریق پذیر افعال کا مجموعہ ہے، تو ہم مندرجہ ذیل مساوات کے مطابق ماڈل کو اپ ڈیٹ کریں گے جہاں قدم کی لمبائی ہے، تاہم مجرد صورت میں، یعنی۔ جب سیٹ محدود ہوتا ہے، تو ہم میلان کے قریب ترین امیدوار فنکشن کا انتخاب کرتے ہیں جس کے لیے گتانک کا حساب مندرجہ بالا مساوات پر لائن سرچ کی مدد سے کیا جا سکتا ہے۔ نوٹ کریں کہ یہ نقطہ نظر ایک تحقیق ہے اور اس وجہ سے دیئے گئے مسئلے کا قطعی حل نہیں ملتا ہے، بلکہ ایک تخمینہ ہے۔ سیوڈوکوڈ میں، عام گریڈینٹ بوسٹنگ کا طریقہ یہ ہے: ان پٹ: ٹریننگ ایک تفریق پذیر نقصان فنکشن نمبر کی تکرار سیٹ کرتی ہے۔ الگورتھم: ماڈل کو مستقل قدر کے ساتھ شروع کریں: کے لیے = 1 سے: نام نہاد چھدم باقیات کا حساب لگائیں: بنیادی سیکھنے والے (یا کمزور سیکھنے والے، مثال کے طور پر) کو فٹ کریں۔ ٹری) اسکیلنگ کے تحت چھدم باقیات کے لیے بند، یعنی۔ ٹریننگ سیٹ کا استعمال کرتے ہوئے اسے ٹرین کریں۔ مندرجہ ذیل یک جہتی اصلاح کے مسئلے کو حل کرکے ضرب کا حساب لگائیں: ماڈل کو اپ ڈیٹ کریں: آؤٹ پٹ گریڈینٹ ٹری کو فروغ دینے والے گریڈینٹ بوسٹنگ کو عام طور پر بنیادی سیکھنے والوں کے طور پر ایک مقررہ سائز کے فیصلہ ٹری (خاص طور پر سی اے آر ٹی) کے ساتھ استعمال کیا جاتا ہے۔ اس خاص معاملے کے لیے، فریڈمین نے گریڈینٹ بوسٹنگ طریقہ کار میں ترمیم کی تجویز پیش کی ہے جو ہر بنیادی سیکھنے والے کے فٹ کے معیار کو بہتر بناتا ہے۔ m-th مرحلے پر عام میلان کو بڑھانا فرضی باقیات کے لیے ایک فیصلہ کن درخت کے مطابق ہوگا۔ اس کے پتوں کی تعداد ہونے دیں۔ ٹری ان پٹ کی جگہ کو جداگانہ علاقوں میں تقسیم کرتا ہے اور ہر خطے میں مستقل قدر کی پیش گوئی کرتا ہے۔ اشارے کے اشارے کا استعمال کرتے ہوئے، ان پٹ x کے آؤٹ پٹ کو مجموعہ کے طور پر لکھا جا سکتا ہے: خطے میں پیش گوئی کی گئی قیمت کہاں ہے۔ پھر کوفیشنٹس کو کسی قدر سے ضرب دی جاتی ہے، لائن سرچ کا استعمال کرتے ہوئے منتخب کیا جاتا ہے تاکہ نقصان کی تقریب کو کم سے کم کیا جا سکے، اور ماڈل کو مندرجہ ذیل طور پر اپ ڈیٹ کیا جاتا ہے: فریڈمین نے اس الگورتھم میں ترمیم کرنے کی تجویز پیش کی ہے تاکہ وہ پورے درخت کے لیے ایک کے بجائے درخت کے ہر علاقے کے لیے ایک علیحدہ بہترین قدر کا انتخاب کرے۔ وہ ترمیم شدہ الگورتھم کو "ٹری بوسٹ" کہتے ہیں۔ ٹری فٹنگ کے طریقہ کار کے کوفیشنٹس کو پھر آسانی سے ضائع کیا جا سکتا ہے اور ماڈل اپ ڈیٹ کا اصول بن جاتا ہے: درختوں کا سائز، درختوں میں ٹرمینل نوڈس کی تعداد، طریقہ کار کا پیرامیٹر ہے جسے ہاتھ میں موجود ڈیٹا سیٹ کے لیے ایڈجسٹ کیا جا سکتا ہے۔ یہ ماڈل میں متغیرات کے درمیان تعامل کی زیادہ سے زیادہ اجازت شدہ سطح کو کنٹرول کرتا ہے۔ (فیصلہ اسٹمپ) کے ساتھ، متغیرات کے درمیان کسی تعامل کی اجازت نہیں ہے۔ ماڈل کے ساتھ دو متغیرات وغیرہ کے درمیان تعامل کے اثرات شامل ہو سکتے ہیں۔ Hastie et al. تبصرہ جو عام طور پر فروغ دینے کے لیے اچھی طرح سے کام کرتا ہے اور نتائج اس رینج کے انتخاب کے لیے کافی حد تک غیر حساس ہوتے ہیں، بہت سی ایپلی کیشنز کے لیے ناکافی ہے، اور اس کی ضرورت کا امکان نہیں ہے۔ ٹریننگ سیٹ کو بہت قریب سے فٹ کرنا ماڈل کی عمومی صلاحیت میں کمی کا باعث بن سکتا ہے۔ کئی نام نہاد باقاعدگی کی تکنیکیں فٹنگ کے طریقہ کار کو محدود کرکے اس اوور فٹنگ اثر کو کم کرتی ہیں۔ ایک قدرتی باقاعدگی کا پیمانہ میلان کو بڑھانے والی تکرار کی تعداد M (یعنی۔ ماڈل میں درختوں کی تعداد جب بنیادی سیکھنے والا فیصلہ کن درخت ہوتا ہے)۔ ایم کو بڑھانا ٹریننگ سیٹ پر غلطی کو کم کرتا ہے، لیکن اسے بہت زیادہ سیٹ کرنا اوور فٹنگ کا باعث بن سکتا ہے۔ ایم کی ایک بہترین قدر اکثر ایک علیحدہ توثیق ڈیٹا سیٹ پر پیشن گوئی کی غلطی کی نگرانی کے ذریعے منتخب کی جاتی ہے۔ ایم کو کنٹرول کرنے کے علاوہ، باقاعدگی کی کئی دیگر تکنیکیں استعمال کی جاتی ہیں۔ باقاعدگی کا ایک اور پیمانہ درختوں کی گہرائی ہے۔ یہ قدر جتنی زیادہ ہوگی اس بات کا امکان اتنا ہی زیادہ ہوگا کہ ماڈل ٹریننگ ڈیٹا سے زیادہ فٹ ہوگا۔ سکڑنا میلان بڑھانے کے طریقہ کار کا ایک اہم حصہ سکڑنا ہے جو اپ ڈیٹ کے اصول میں مندرجہ ذیل ترمیم پر مشتمل ہے: جہاں پیرامیٹر کو "سیکھنے کی شرح" کہا جاتا ہے۔ تجرباتی طور پر یہ پایا گیا ہے کہ سیکھنے کی چھوٹی شرحوں (جیسے) کا استعمال کرنے سے ماڈلز کی عمومی صلاحیت میں ڈرامائی بہتری آتی ہے جو کہ سکڑتے ہوئے گریڈینٹ بوسٹنگ () کے مقابلے میں ہوتی ہے۔ تاہم، یہ تربیت اور استفسار دونوں کے دوران کمپیوٹیشنل وقت میں اضافے کی قیمت پر آتا ہے: کم سیکھنے کی شرح کے لیے مزید تکرار کی ضرورت ہوتی ہے۔ گریڈینٹ بوسٹنگ کے تعارف کے فورا بعد، فریڈمین نے الگورتھم میں ایک معمولی ترمیم کی تجویز پیش کی، جو بریمن کے بوٹسٹریپ ایگریگیشن ("بیگنگ") طریقہ سے متاثر تھی۔ خاص طور پر، انہوں نے تجویز پیش کی کہ الگورتھم کے ہر تکرار پر، ایک بنیادی سیکھنے والے کو بغیر کسی تبدیلی کے بے ترتیب طور پر تیار کردہ تربیتی سیٹ کے ذیلی نمونے پر فٹ ہونا چاہیے۔ فریڈمین نے اس ترمیم کے ساتھ گریڈینٹ بوسٹنگ کی درستگی میں خاطر خواہ بہتری کا مشاہدہ کیا۔ ذیلی نمونہ سائز ٹریننگ سیٹ کے سائز کا کچھ مستقل حصہ ہے۔ جب، الگورتھم تعیناتی اور اوپر بیان کردہ الگورتھم سے ملتا جلتا ہوتا ہے۔ الگورتھم میں بے ترتیب پن متعارف کرانے کی چھوٹی اقدار اور اوورفٹنگ کو روکنے میں مدد کرتی ہیں، جو ایک قسم کی باقاعدگی کے طور پر کام کرتی ہیں۔ الگورتھم بھی تیز ہو جاتا ہے، کیونکہ ہر تکرار پر رجعت کے درختوں کو چھوٹے ڈیٹا سیٹوں کے مطابق ہونا پڑتا ہے۔ فریڈمین نے حاصل کیا جو چھوٹے اور اعتدال پسند سائز کے تربیتی سیٹوں کے لیے اچھے نتائج کی طرف لے جاتا ہے۔ لہذا، عام طور پر 0.0 پر سیٹ کیا جاتا ہے، جس کا مطلب ہے کہ ٹریننگ سیٹ کا نصف حصہ ہر بیس لرنر کی تعمیر کے لیے استعمال ہوتا ہے۔ نیز، بیگنگ کی طرح، سب سیمپلنگ کسی کو ان مشاہدات پر پیش گوئیوں کا جائزہ لے کر پیشن گوئی کی کارکردگی میں بہتری کی بیگ سے باہر کی غلطی کی وضاحت کرنے کی اجازت دیتا ہے جو اگلے بیس لرنر کی تعمیر میں استعمال نہیں ہوئے تھے۔ بیگ سے باہر کے تخمینے ایک آزاد توثیق ڈیٹا سیٹ کی ضرورت سے بچنے میں مدد کرتے ہیں، لیکن اکثر اصل کارکردگی میں بہتری اور تکرار کی زیادہ سے زیادہ تعداد کو کم سمجھتے ہیں۔ پتوں میں مشاہدات کی تعداد گریڈینٹ ٹری کو فروغ دینے والے نفاذ اکثر درختوں کے ٹرمینل نوڈس میں مشاہدات کی کم سے کم تعداد کو محدود کرکے باقاعدگی کا استعمال کرتے ہیں۔ یہ درخت کی تعمیر کے عمل میں کسی بھی اسپلٹ کو نظر انداز کرکے استعمال کیا جاتا ہے جو اس تعداد سے کم ٹریننگ سیٹ مثالوں پر مشتمل نوڈس کا باعث بنتا ہے۔ اس حد کو نافذ کرنے سے پتوں پر پیش گوئیوں میں تغیر کو کم کرنے میں مدد ملتی ہے۔ درخت کی پیچیدگی کو سزا دینا میلان بڑھانے والے درختوں کے لیے ایک اور مفید باقاعدگی کی تکنیک سیکھے ہوئے ماڈل کی ماڈل کی پیچیدگی کو سزا دینا ہے۔ ماڈل کی پیچیدگی کو سیکھے ہوئے درختوں میں پتوں کی متناسب تعداد کے طور پر بیان کیا جا سکتا ہے۔ نقصان اور ماڈل کی پیچیدگی کی مشترکہ اصلاح ان شاخوں کو ہٹانے کے لیے پوسٹ پرننگ الگورتھم سے مطابقت رکھتی ہے جو نقصان کو ایک حد تک کم کرنے میں ناکام رہتی ہیں۔ اوورفٹنگ سے بچنے کے لیے دیگر اقسام کی باقاعدگی جیسے پتی کی اقدار پر جرمانہ بھی شامل کیا جا سکتا ہے۔ استعمال گریڈینٹ بوسٹنگ کو سیکھنے کے میدان میں درجہ بندی کے لیے استعمال کیا جا سکتا ہے۔ تجارتی ویب سرچ انجن یاہو اور یانڈیکس اپنے مشین سے سیکھے گئے رینکنگ انجنوں میں گریڈینٹ بوسٹنگ کے مختلف قسموں کا استعمال کرتے ہیں۔ گریڈینٹ بوسٹنگ کا استعمال ڈیٹا تجزیہ میں ہائی انرجی فزکس میں بھی کیا جاتا ہے۔ لارج ہیڈرون کولائڈر (ایل ایچ سی) میں، گریڈینٹ بوسٹنگ ڈیپ نیورل نیٹ ورکس (ڈی این این) کی مختلف قسمیں ہگس بوسون کو دریافت کرنے کے لیے استعمال ہونے والے ڈیٹا سیٹس پر تجزیہ کے غیر مشین سیکھنے کے طریقوں کے نتائج کو دوبارہ پیش کرنے میں کامیاب رہیں۔ گرائڈینٹ بوسٹنگ ڈیسیشن ٹری کا اطلاق زمین اور ارضیاتی مطالعات میں بھی کیا گیا تھا-مثال کے طور پر ریت کے پتھر کے ذخائر کے معیار کی تشخیص۔ نام یہ طریقہ مختلف ناموں سے جاتا ہے۔ فریڈمین نے اپنی رجعت کی تکنیک کو "گریڈینٹ بوسٹنگ مشین" (جی بی ایم) کے طور پر متعارف کرایا۔ میسن، بیکسٹر اور دیگر۔ الگورتھم کی عمومی تجریدی کلاس کو "فنکشنل گریڈینٹ بوسٹنگ" کے طور پر بیان کیا۔ فریڈمین اور دیگر۔ گریڈینٹ بوسٹڈ ماڈلز کی ترقی کو ملٹیپل ایڈیٹیو ریگریشن ٹریز (ایم اے آر ٹی) کے طور پر بیان کریں۔ اس نقطہ نظر کو "بوسٹڈ ریگریشن ٹریز" (بی آر ٹی) کے طور پر بیان کریں۔ آر کے لیے ایک مقبول اوپن سورس نفاذ اسے "جنرلائزڈ بوسٹنگ ماڈل" کہتا ہے، تاہم اس کام کو بڑھانے والے پیکیجز بی آر ٹی کا استعمال کرتے ہیں۔ ایک اور نام ٹری نیٹ ہے، جو سیلفورڈ سسٹم کے ڈین اسٹینبرگ کے ابتدائی تجارتی نفاذ کے بعد ہے، جو ان محققین میں سے ایک ہیں جنہوں نے درخت پر مبنی طریقوں کے استعمال کا آغاز کیا۔ ایکس جی بوسٹ کچھ توسیعات کے ساتھ طریقہ کار کا ایک اور مقبول جدید نفاذ ہے، جیسے سیکنڈ آرڈر آپٹیمائزیشن۔ نقصانات اگرچہ فروغ بنیادی سیکھنے والے کی درستگی میں اضافہ کر سکتا ہے، جیسے کہ فیصلہ ٹری یا لکیری ریگریشن، یہ سمجھ بوجھ اور تشریح کی قربانی دیتا ہے۔ مثال کے طور پر، فیصلہ کرنے والا درخت اپنا فیصلہ کرنے کے لیے جس راستے پر چلتا ہے وہ معمولی اور خود ساختہ ہے، لیکن سینکڑوں یا ہزاروں درختوں کے راستوں پر چلنا بہت مشکل ہے۔ کارکردگی اور تشریح دونوں کو حاصل کرنے کے لیے، کچھ ماڈل کمپریشن تکنیک ایک ایکس جی بوسٹ کو ایک واحد "دوبارہ پیدا ہونے والے" فیصلہ ٹری میں تبدیل کرنے کی اجازت دیتی ہیں جو ایک ہی فیصلہ فنکشن کا تخمینہ لگاتا ہے۔ مزید برآں، زیادہ کمپیوٹیشنل مانگ کی وجہ سے اس کا نفاذ زیادہ مشکل ہو سکتا ہے۔ ایڈو بوسٹ رینڈم فاریسٹ کیٹ بوسٹ لائٹ جی بی ایم ایکس جی بی بوسٹ ڈیسیشن ٹری لرننگ حوالہ جات مزید پڑھنا بیرونی لنکس گریڈینٹ بوسٹڈ ریگریشن ٹریز لائٹ جی بی ایم درجہ بندی الگورتھم فیصلہ ٹری انسمبل لرننگ کی وضاحت کیسے کریں