Tesla Dojo
ٹیسلا ڈوجو ایک سپر کمپیوٹر ہے جسے ٹیسلا نے کمپیوٹر وژن ویڈیو پروسیسنگ اور شناخت کے لیے ڈیزائن اور بنایا ہے۔ اس کا استعمال ٹیسلا کے مشین لرننگ ماڈلز کی تربیت کے لیے کیا جائے گا تاکہ اس کے فل سیلف ڈرائیونگ (ایف ایس ڈی) ایڈوانسڈ ڈرائیور اسسٹنس سسٹم کو بہتر بنایا جا سکے۔ ٹیسلا کے مطابق، اس کی پیداوار جولائی 2023 میں شروع ہوئی۔ ڈوجو کا مقصد ٹیسلا کی 4 + ملین کاروں سے حقیقی زندگی کے ڈرائیونگ کے حالات سے حاصل کردہ لاکھوں ٹیرابائٹس کے ویڈیو ڈیٹا کو مؤثر طریقے سے پروسیس کرنا ہے۔ یہ مقصد روایتی سپر کمپیوٹر ڈیزائن کے مقابلے میں کافی مختلف فن تعمیر کا باعث بنا۔ ٹیسلا اپنے آٹو پائلٹ ایڈوانسڈ ڈرائیور اسسٹنس سسٹم کو تیار کرنے کے لیے کئی بڑے پیمانے پر متوازی کمپیوٹنگ کلسٹر چلاتا ہے۔ 5, 760 این ویڈیا اے 100 گرافکس پروسیسنگ یونٹس (جی پی یوز) کا استعمال کرنے والے اس کے بنیادی نامعلوم کلسٹر کو آندرے کرپتی نے 2021 میں کمپیوٹر ویژن اینڈ پیٹرن ریکگنیشن (سی سی وی پی آر 2021) پر چوتھی بین الاقوامی مشترکہ کانفرنس میں تقریبا 81.6 پیٹا فلاپس پر "دنیا میں تقریبا پانچویں نمبر کا سپر کمپیوٹر" قرار دیا تھا، جو این ویڈیا سیلین سپر کمپیوٹر کی کارکردگی کو اسکیل کرنے پر مبنی ہے، جو اسی طرح کے اجزاء کا استعمال کرتا ہے۔ تاہم، بنیادی ٹیسلا جی پی یو کلسٹر کی کارکردگی متنازعہ رہی ہے، کیونکہ یہ واضح نہیں تھا کہ آیا اس کی پیمائش واحد صحت سے متعلق یا دوہری صحت سے متعلق فلوٹنگ پوائنٹ نمبروں (ایف پی 32 یا ایف پی 64) کا استعمال کرتے ہوئے کی گئی تھی۔ ٹیسلا تربیت کے لیے دوسرا 4,032 جی پی یو کلسٹر اور اشیاء کی خودکار لیبلنگ کے لیے تیسرا 1,752 جی پی یو کلسٹر بھی چلاتا ہے۔ بنیادی بے نام ٹیسلا جی پی یو کلسٹر کو ایک ملین ویڈیو کلپس کی پروسیسنگ کے لیے استعمال کیا گیا ہے، جو ہر دس سیکنڈ طویل ہے، جو حقیقی دنیا میں ٹیسلا کاروں میں کام کرنے والے ٹیسلا آٹو پائلٹ کیمروں سے لیا گیا ہے، جو 36 فریم فی سیکنڈ پر چل رہا ہے۔ مجموعی طور پر، ان ویڈیو کلپس میں گہرائی اور رفتار کے اعداد و شمار کے ساتھ چھ ارب آبجیکٹ لیبل موجود تھے۔ ڈیٹا سیٹ کا کل سائز 1.5 پیٹا بائٹس تھا۔ یہ ڈیٹا سیٹ ایک نیورل نیٹ ورک کی تربیت کے لیے استعمال کیا گیا تھا جس کا مقصد ٹیسلا کاروں میں آٹو پائلٹ کمپیوٹرز کو سڑکوں کو سمجھنے میں مدد کرنا تھا۔ اگست 2022 تک، ٹیسلا نے بنیادی جی پی یو کلسٹر کو 7,360 جی پی یو میں اپ گریڈ کر دیا تھا۔ ڈوجو کا ذکر پہلی بار مسک نے اپریل 2019 میں ٹیسلا کے "آٹونومی انویسٹر ڈے" کے دوران کیا تھا۔ اگست 2020 میں، مسک نے کہا کہ بجلی اور تھرمل مسائل کی وجہ سے "تقریبا ایک سال دور" ہے۔ ڈوجو کا باضابطہ اعلان 19 اگست 2021 کو ٹیسلا کے مصنوعی ذہانت (اے آئی) کے دن کیا گیا۔ ٹیسلا نے ڈی 1 چپ کی تفصیلات اور "پروجیکٹ ڈوجو" کے لیے اس کے منصوبوں کا انکشاف کیا، جو ایک ڈیٹا سینٹر ہے جس میں 3,000 ڈی 1 چپس ہوں گی ؛ پہلا "ٹریننگ ٹائل" مکمل ہو چکا تھا اور ایک ہفتہ قبل ڈیلیور کیا گیا تھا۔ اکتوبر 2021 میں، ٹیسلا نے ایک "ڈوجو ٹیکنالوجی" وائٹ پیپر جاری کیا جس میں انسٹی ٹیوٹ آف الیکٹریکل اینڈ الیکٹرانکس انجینئرز (آئی ای ای ای) کے معیار 754 کی توسیع کے طور پر کنفیگر ایبل فلوٹ 8 (سی ایف فلوٹ 8) اور کنفیگر ایبل فلوٹ 16 (سی ایف فلوٹ 16) فلوٹنگ پوائنٹ فارمیٹس اور ریاضی کی کارروائیوں کو بیان کیا گیا ہے۔ ستمبر 2022 میں فالو اپ اے آئی ڈے پر، ٹیسلا نے اعلان کیا کہ اس نے کئی سسٹم ٹرے اور ایک کابینہ بنائی ہے۔ ایک ٹیسٹ کے دوران، کمپنی نے بتایا کہ پروجیکٹ ڈوجو نے مقامی سان جوس، کیلیفورنیا پاور سب اسٹیشن کو ٹرپ کرنے سے پہلے 2.3 میگاواٹ (میگاواٹ) بجلی نکالی۔ اس وقت ٹیسلا روزانہ ایک ٹریننگ ٹائل اسمبل کر رہا تھا۔ اگست 2023 میں، ٹیسلا نے ڈوجو پر پیداوار کے استعمال کے ساتھ ساتھ 10,000 این ویڈیا ایچ 100 جی پی یو کے ساتھ تشکیل شدہ ایک نیا تربیتی کلسٹر چلایا۔ استقبالیہ کے مختلف تجزیہ کاروں نے کہا ہے کہ ڈوجو "متاثر کن ہے، لیکن یہ سپر کمپیوٹنگ کو تبدیل نہیں کرے گا"، "گیم چینجر ہے کیونکہ اسے مکمل طور پر اندرون ملک تیار کیا گیا ہے"، "خود مختار گاڑیوں کی ترقی کو بڑے پیمانے پر تیز کرے گا"، اور "ٹیسلا ایف ایس ڈی کے مستقبل اور اے آئی کے لیے زیادہ وسیع پیمانے پر گیم چینجر ہو سکتا ہے"۔ 11 ستمبر 2023 کو، مورگن اسٹینلے نے ٹیسلا اسٹاک (ٹی ایس ایل اے) کے لیے اپنے ہدف کی قیمت 250 ڈالر کے پہلے ہدف سے بڑھا کر 400 ڈالر کر دی اور اس اسٹاک کو برقی گاڑی کے شعبے میں اس کا سب سے بڑا انتخاب قرار دیتے ہوئے کہا کہ ٹیسلا کا ڈوجو سپر کمپیوٹر ٹیسلا کی مارکیٹ ویلیو میں 500 بلین ڈالر کی چھلانگ لگا سکتا ہے۔ تکنیکی فن تعمیر ڈوجو سپر کمپیوٹر کی بنیادی اکائی ڈی 1 چپ ہے، جسے ٹیسلا کی ایک ٹیم نے ڈیزائن کیا ہے جس کی قیادت سابق اے ایم ڈی سی پی یو ڈیزائنر گنیش وینکٹارمنن کر رہے ہیں، جن میں ایمل ٹیلپس، دیبجیت داس شرما، ڈگلس ولیمز، بل چانگ، اور راجیو کورین شامل ہیں۔ ڈی 1 چپ تائیوان سیمی کنڈکٹر مینوفیکچرنگ کمپنی (ٹی ایس ایم سی) کے ذریعہ 7 نینومیٹر (این ایم) سیمی کنڈکٹر نوڈس کا استعمال کرتے ہوئے تیار کی گئی ہے، اس میں 50 بلین ٹرانجسٹرز ہیں اور اس کا ایک بڑا ڈائی سائز ہے۔ 2022 میں آرٹیفیشل انٹیلی جنس (اے آئی) ڈے پر اپ ڈیٹ کرتے ہوئے، ٹیسلا نے اعلان کیا کہ ڈوجو متعدد ایکساپوڈز کو تعینات کرکے پیمانے پر کام کرے گا، جس میں: 354 کمپیوٹنگ کور فی ڈی 1 چپ 25 ڈی 1 چپس فی ٹریننگ ٹائل (کور) 6 ٹریننگ ٹائل فی سسٹم ٹرے (کور، میزبان انٹرفیس ہارڈ ویئر کے ساتھ) 2 سسٹم ٹرے فی کابینہ (کور، ڈی 1 چپس) 10 کابینہ فی ایکساپوڈ (کور، ڈی 1 چپس) ٹیسلا کے آٹو پائلٹ ہارڈ ویئر کے سینئر ڈائریکٹر وینکٹارامن کے مطابق، ڈوجو کے پاس کمپیوٹنگ پاور کے ایک ایکسافلوپ (ایک ملین ٹیرا فلاپس) سے زیادہ ہوگا۔ موازنہ کے لیے، این ویڈیا کے مطابق، اگست 2021 میں، (پری ڈوجو) ٹیسلا اے آئی ٹریننگ سینٹر نے 720 نوڈس کا استعمال کیا، جن میں سے ہر ایک میں مجموعی طور پر 5,760 جی پی یو کے لیے آٹھ این ویڈیا اے 100 ٹینسر کور جی پی یو تھے، جو کارکردگی کے 1.8 ایکس فلاپس فراہم کرتے تھے۔ ڈی 1 چپ ڈی 1 پروسیسنگ چپ کا ہر نوڈ (کمپیوٹنگ کور) ایک عام مقصد کا 64 بٹ سی پی یو ہے جس میں سپر اسکالر کور ہوتا ہے۔ یہ داخلی ہدایات کی سطح کے متوازی پن کی حمایت کرتا ہے، اور اس میں بیک وقت ملٹی تھریڈنگ (ایس ایم ٹی) شامل ہے۔ یہ ورچوئل میموری کو سپورٹ نہیں کرتا اور محدود میموری پروٹیکشن میکانزم کا استعمال کرتا ہے۔ ڈوجو سافٹ ویئر/ایپلی کیشنز چپ وسائل کا انتظام کرتی ہیں۔ D1 انسٹرکشن سیٹ 64 بٹ اسکیلر اور 64 بٹ سنگل انسٹرکشن، ملٹی پل ڈیٹا (SIMD) ویکٹر انسٹرکشنز دونوں کی حمایت کرتا ہے۔ انٹیجر یونٹ کم انسٹرکشن سیٹ کمپیوٹر (RISC-V) اور اپنی مرضی کے مطابق ہدایات کو ملاتا ہے، جو 8، 16، 32، یا 64 بٹ انٹیجرز کی حمایت کرتا ہے۔ کسٹم ویکٹر ریاضی یونٹ مشین لرننگ کرنلز کے لیے بہتر بنایا گیا ہے اور متعدد ڈیٹا فارمیٹس کی حمایت کرتا ہے، جس میں درستگی اور عددی حدود کا مرکب ہوتا ہے، جن میں سے بہت سے مرتب کرنے کے قابل ہوتے ہیں۔ 16 ویکٹر فارمیٹس تک بیک وقت استعمال کیے جا سکتے ہیں۔ نوڈ ہر ڈی 1 نوڈ ایک 32 بٹ فیچ ونڈو کا استعمال کرتا ہے جس میں آٹھ ہدایات ہوتی ہیں۔ ایک آٹھ چوڑا ڈیکوڈر فی سائیکل دو دھاگوں کی حمایت کرتا ہے۔ یہ فرنٹ اینڈ ایک چار چوڑا، چار طرفہ ایس ایم ٹی اسکیلر شیڈولر فراہم کرتا ہے جس میں دو انٹیجر یونٹ، دو ایڈریس یونٹ، اور ایک رجسٹر فائل/تھریڈ ہوتا ہے۔ دو طرف والے ویکٹر شیڈولر میں چار طرفہ ایس ایم ٹی ہوتا ہے، جو 64 بٹ چوڑے ایس آئی ایم ڈی یونٹ یا چار 8 × 8 × 4 میٹرکس ضرب یونٹس کو فراہم کرتا ہے۔ نیٹ ورک آن چپ (این او سی) راؤٹر کور کو دو جہتی میش نیٹ ورک میں جوڑتا ہے۔ یہ ایک پیکٹ اندر بھیج سکتا ہے اور ایک پیکٹ چاروں سمتوں میں ہر پڑوسی نوڈ سے بھیج سکتا ہے، اس کے ساتھ ایک 64 بٹ ریڈ اور ایک 64 بٹ رائٹ مقامی ایس آر اے ایم فی کلاک سائیکل پر بھیج سکتا ہے۔ ہارڈ ویئر کے مقامی آپریشنز میموریز اور سی پی یوز میں ڈیٹا، سیمافورز اور رکاوٹ کی رکاوٹوں کو منتقل کرتے ہیں۔ سسٹم وائیڈ ڈبل ڈیٹا ریٹ 4 (ڈی ڈی آر 4) سنکرونس ڈائنامک رینڈم ایکسیس میموری (ایس ڈی آر اے ایم) میموری بلک اسٹوریج کی طرح کام کرتی ہے۔ میموری ہر کور میں 1.25 میگا بائٹس (ایم بی) ایس آر اے ایم مین میموری ہوتی ہے۔ لوڈ اور اسٹور کی رفتار بالترتیب 400 گیگا بائٹس (جی بی) فی سیکنڈ اور 270 جی بی/سیکنڈ تک پہنچ جاتی ہے۔ چپ میں کور ٹو کور ڈیٹا ٹرانسفر کی واضح ہدایات ہوتی ہیں۔ ہر ایس آر اے ایم میں ایک منفرد لسٹ پارسر ہوتا ہے جو ڈیکوڈرز کی ایک جوڑی کو فیڈ کرتا ہے اور ایک کلیڈر انجن جو ویکٹر رجسٹر فائل کو فیڈ کرتا ہے، جو مل کر نوڈس میں براہ راست معلومات منتقل کر سکتا ہے۔ بارہ نوڈس (کور) کو ایک مقامی بلاک میں گروپ کیا جاتا ہے۔ نوڈس کو ایک ہی ڈائی پر 18 × 20 صف میں ترتیب دیا جاتا ہے، جن میں سے 354 کور ایپلی کیشنز کے لیے دستیاب ہیں۔ ڈائی 2 گیگا ہرٹز (گیگا ہرٹز) پر چلتا ہے اور مجموعی طور پر 440 ایم بی ایس آر اے ایم (360 کور × 1.25 ایم بی/کور) ہے۔ یہ 16 بٹ برین فلوٹنگ پوائنٹ (بی ایف 16) نمبروں کا استعمال کرتے ہوئے یا قابل ترتیب 8 بٹ فلوٹنگ پوائنٹ (سی ایف فلوٹ 8) نمبروں کا استعمال کرتے ہوئے 376 ٹیرا فلاپس تک پہنچتا ہے، جو کہ ٹیسلا کی تجویز ہے، اور ایف پی 32 پر 22 ٹیرا فلاپس۔ ہر ڈائی دوسرے ڈائی سے منسلک کرنے کے لیے دائرے کے ساتھ 576 دو طرفہ سیریلائزر/ڈیسیریلائزر (سرڈس) چینلز پر مشتمل ہوتا ہے، اور ڈائی کے چاروں کناروں پر 8 ٹی بی/سیکنڈ منتقل ہوتا ہے۔ ہر ڈی 1 چپ میں تقریبا 400 واٹ کی تھرمل ڈیزائن پاور ہوتی ہے۔ ٹریننگ ٹائل پانی سے ٹھنڈا ٹریننگ ٹائل 25 ڈی 1 چپس کو 5 × 5 صف میں پیک کرتا ہے۔ ہر ٹائل 40 ان پٹ/آؤٹ پٹ (I/O) چپس کے ذریعے مجموعی بینڈوتھ کے 36 TB/سیکنڈ کی حمایت کرتا ہے-چپ میش نیٹ ورک کی نصف بینڈوتھ۔ ہر ٹائل 10 ٹی بی/سیکنڈ آن ٹائل بینڈوتھ کی حمایت کرتا ہے۔ ہر ٹائل میں 11 جی بی ایس آر اے ایم میموری (25 ڈی 1 چپس × 360 کور/ڈی 1 × 1.25 ایم بی/کور) ہوتی ہے۔ ہر ٹائل بی ایف 16/سی ایف فلوٹ 8 درستگی (25 ڈی 1 چپس × 376 ٹی ایف ایل او پی/ڈی 1) پر 9 پیٹا فلاپس حاصل کرتا ہے۔ ہر ٹائل 15 کلو واٹ کا استعمال کرتا ہے ؛ 52 وولٹ پر 288 ایمپیر۔ سسٹم ٹرے سکس ٹائلوں کو ایک سسٹم ٹرے میں جمع کیا جاتا ہے، جو ایک میزبان انٹرفیس کے ساتھ مربوط ہوتا ہے۔ ہر میزبان انٹرفیس میں 512 x86 کور شامل ہیں، جو لینکس پر مبنی صارف ماحول فراہم کرتے ہیں۔ اس سے پہلے، ڈوجو سسٹم ٹرے کو ٹریننگ میٹرکس کے نام سے جانا جاتا تھا، جس میں چھ ٹریننگ ٹائلز، چار میزبان سرورز میں 20 ڈوجو انٹرفیس پروسیسر کارڈز، اور ایتھرنیٹ سے منسلک ملحقہ سرورز شامل ہیں۔ اس میں 53,100 ڈی 1 کور ہیں، جن کی درجہ بندی بی ایف 16 اور سی ایف فلوٹ 8 فارمیٹس میں 1 ایکسافلوپس پر کی گئی ہے۔ اس میں 1.3 ٹی بی آن ٹائل ایس آر اے ایم میموری اور 13 ٹی بی ڈوئل ان لائن ہائی بینڈوتھ میموری (ایچ بی ایم) ہے۔ ڈوجو انٹرفیس پروسیسر کارڈ (ڈی آئی پی) ٹائل صفوں کے کناروں پر بیٹھتے ہیں اور میش نیٹ ورک میں جڑے ہوتے ہیں۔ میزبان نظام ڈی آئی پیز کو طاقت دیتے ہیں اور نظام کے انتظام کے مختلف افعال انجام دیتے ہیں۔ ایک ڈی آئی پی میموری اور آئی/او شریک پروسیسر میں 32 جی بی مشترکہ ایچ بی ایم (یا تو ایچ بی ایم 2 ای یا ایچ بی ایم 3) کے ساتھ ساتھ ایتھرنیٹ انٹرفیس ہوتے ہیں جو میش نیٹ ورک کو چھوڑ دیتے ہیں۔ ہر ڈی آئی پی کارڈ میں 2 آئی/او پروسیسرز ہوتے ہیں جن میں 4 میموری بینک ہوتے ہیں جن میں 800 جی بی/سیکنڈ بینڈوتھ کے ساتھ کل 32 جی بی ہوتا ہے۔ ڈی آئی پی پی سی آئی-ایکسپریس 4.0 x16 سلاٹ میں پلگ کرتا ہے جو فی کارڈ 32 جی بی/سیکنڈ بینڈوتھ پیش کرتا ہے۔ پانچ کارڈ فی ٹائل ایج میزبان سرورز کو 160 جی بی/سیکنڈ اور ٹائل کو 4.5 ٹی بی/سیکنڈ بینڈوتھ پیش کرتے ہیں۔ ٹیسلا ٹرانسپورٹ پروٹوکول (ٹی ٹی پی) پی سی آئی-ایکسپریس پر ایک ملکیتی انٹر کنیکٹ ہے۔ ایک 50 جی بی/سیکنڈ ٹی ٹی پی پروٹوکول لنک ایتھرنیٹ پر چلتا ہے تاکہ یا تو ایک 400 جی بی/سیکنڈ پورٹ یا 200 جی بی/سیکنڈ پورٹ کے جوڑے والے سیٹ تک رسائی حاصل کی جا سکے۔ پورے دو جہتی میش نیٹ ورک کو عبور کرنے میں 30 ہاپس لگ سکتے ہیں، جبکہ ایتھرنیٹ پر ٹی ٹی پی صرف چار ہاپس (نچلے بینڈوڈتھ پر) لیتا ہے، جس سے عمودی تاخیر کم ہوتی ہے۔ کابینہ اور ایکزاپوڈ ڈوجو ٹائلوں کو کابینہ میں عمودی طور پر اسٹیک کرتے ہیں تاکہ ان کے درمیان فاصلے اور مواصلات کے وقت کو کم سے کم کیا جا سکے۔ ڈوجو ایکسا پوڈ سسٹم میں 120 ٹائلیں شامل ہیں، جن میں کل 1,062,000 قابل استعمال کور ہیں، جو 20 ایکسا فلاپس تک پہنچتے ہیں۔ سافٹ ویئر ڈوجو فریم ورک پائ ٹورچ کی حمایت کرتا ہے، "سی یا سی + + کی طرح نچلی سطح پر کچھ نہیں، سی یو ڈی اے کی طرح دور سے کچھ نہیں"۔ ایس آر اے ایم ایک واحد ایڈریس اسپیس کے طور پر پیش کرتا ہے۔ کیونکہ ایف پی 32 میں اے آئی کاموں کے لیے ضرورت سے زیادہ درستگی اور رینج ہے، اور ایف پی 16 میں کافی نہیں ہے، ٹیسلا نے 8-اور 16-بٹ کنفیگر ایبل فلوٹنگ پوائنٹ فارمیٹس (سی ایف فلوٹ 8 اور سی ایف فلوٹ 16، بالترتیب) وضع کیے ہیں جو مرتب کرنے والے کو متحرک طور پر سیٹ کرنے کی اجازت دیتے ہیں۔ تیز ویکٹر پروسیسنگ اور کم اسٹوریج کی ضروریات کے بدلے میں کم درستگی کو قبول کرتے ہوئے مینٹیسا اور ایکسپونینٹ کی درستگی۔ حوالہ جات بیرونی روابط ڈوجو سپر کمپیوٹرز کمپیوٹر وژن