Tesla Dojo
टेस्ला डोजो एक सुपर कंप्यूटर है जिसे टेस्ला द्वारा कंप्यूटर दृष्टि वीडियो प्रसंस्करण और पहचान के लिए डिज़ाइन और निर्मित किया गया है। इसका उपयोग टेस्ला के मशीन लर्निंग मॉडल को प्रशिक्षित करने के लिए किया जाएगा ताकि इसकी पूर्ण स्व-ड्राइविंग (एफएसडी) उन्नत चालक-सहायता प्रणाली में सुधार किया जा सके। टेस्ला के अनुसार, इसका उत्पादन जुलाई 2023 में शुरू हुआ। डोजो का लक्ष्य टेस्ला की 4 + मिलियन कारों से वास्तविक जीवन की ड्राइविंग स्थितियों से प्राप्त लाखों टेराबाइट वीडियो डेटा को कुशलता से संसाधित करना है। इस लक्ष्य ने पारंपरिक सुपर कंप्यूटर डिजाइनों की तुलना में काफी अलग वास्तुकला को जन्म दिया। टेस्ला अपने ऑटोपायलट उन्नत चालक सहायता प्रणाली को विकसित करने के लिए कई बड़े पैमाने पर समानांतर कंप्यूटिंग समूहों का संचालन करती है। 5, 760 एनवीडिया ए100 ग्राफिक्स प्रोसेसिंग इकाइयों (जी. पी. यू.) का उपयोग करने वाले इसके प्राथमिक अनाम समूह को 2021 में कंप्यूटर विजन एंड पैटर्न रिकग्निशन (सी. सी. वी. पी. आर. 2021) पर चौथे अंतर्राष्ट्रीय संयुक्त सम्मेलन में आंद्रेज कार्पाथी द्वारा लगभग 81.6 पेटाफ्लॉप्स पर "दुनिया में लगभग पांचवें नंबर का सुपर कंप्यूटर" होने के लिए कहा गया था, जो एनवीडिया सेलेन सुपरकंप्यूटर के प्रदर्शन को मापने पर आधारित है, जो समान घटकों का उपयोग करता है। हालांकि, प्राथमिक टेस्ला जी. पी. यू. समूह का प्रदर्शन विवादित रहा है, क्योंकि यह स्पष्ट नहीं था कि इसे एकल-परिशुद्धता या दोहरे-परिशुद्धता फ्लोटिंग पॉइंट नंबर (एफ. पी. 32 या एफ. पी. 64) का उपयोग करके मापा गया था या नहीं। टेस्ला प्रशिक्षण के लिए दूसरा 4,032 जी. पी. यू. समूह और वस्तुओं की स्वचालित लेबलिंग के लिए तीसरा 1,752 जी. पी. यू. समूह भी संचालित करता है। प्राथमिक अनाम टेस्ला जी. पी. यू. क्लस्टर का उपयोग वास्तविक दुनिया में टेस्ला कारों में काम करने वाले टेस्ला ऑटोपायलट कैमरों से लिए गए प्रत्येक दस सेकंड लंबे दस लाख वीडियो क्लिप को संसाधित करने के लिए किया गया है, जो 36 फ्रेम प्रति सेकंड पर चल रहे हैं। सामूहिक रूप से, इन वीडियो क्लिप में गहराई और वेग डेटा के साथ छह अरब ऑब्जेक्ट लेबल थे; डेटा सेट का कुल आकार डेढ़ पेटाबाइट था। इस डेटा सेट का उपयोग एक तंत्रिका नेटवर्क को प्रशिक्षित करने के लिए किया गया था जिसका उद्देश्य टेस्ला कारों में ऑटोपायलट कंप्यूटरों को सड़कों को समझने में मदद करना था। अगस्त 2022 तक, टेस्ला ने प्राथमिक जी. पी. यू. समूह को 7,360 जी. पी. यू. में उन्नत कर दिया था। अप्रैल 2019 में टेस्ला के "स्वायत्तता निवेशक दिवस" के दौरान मस्क ने पहली बार डोजो का उल्लेख किया था। अगस्त 2020 में, मस्क ने कहा कि बिजली और थर्मल मुद्दों के कारण "लगभग एक साल दूर" था। 19 अगस्त, 2021 को टेस्ला के आर्टिफिशियल इंटेलिजेंस (AI) दिवस पर डोजो की आधिकारिक घोषणा की गई थी। टेस्ला ने डी1 चिप और "प्रोजेक्ट डोजो" के लिए अपनी योजनाओं के विवरण का खुलासा किया, एक डेटासेंटर जिसमें 3,000 डी1 चिप्स होंगे; पहला "प्रशिक्षण टाइल" पूरा हो गया था और एक सप्ताह पहले वितरित किया गया था। अक्टूबर 2021 में, टेस्ला ने इंस्टीट्यूट ऑफ इलेक्ट्रिकल एंड इलेक्ट्रॉनिक्स इंजीनियर्स (आई. ई. ई. ई.) मानक 754 के विस्तार के रूप में कॉन्फ़िगरेबल फ्लोट8 (सी. एफ. फ्लोट8) और कॉन्फ़िगरेबल फ्लोट16 (सी. एफ. फ्लोट16) फ्लोटिंग पॉइंट प्रारूपों और अंकगणितीय संचालन का वर्णन करते हुए एक "डोजो टेक्नोलॉजी" श्वेतपत्र जारी किया। सितंबर 2022 में अनुवर्ती एआई दिवस पर, टेस्ला ने घोषणा की कि उसने कई सिस्टम ट्रे और एक कैबिनेट का निर्माण किया है। एक परीक्षण के दौरान, कंपनी ने कहा कि प्रोजेक्ट डोजो ने एक स्थानीय सैन जोस, कैलिफोर्निया पावर सबस्टेशन को ट्रिप करने से पहले 2.3 मेगावाट (मेगावाट) बिजली खींची। उस समय, टेस्ला प्रति दिन एक प्रशिक्षण टाइल असेंबल कर रहा था। अगस्त 2023 में, टेस्ला ने उत्पादन उपयोग के साथ-साथ 10,000 एनवीडिया एच100 जीपीयू के साथ कॉन्फ़िगर किए गए एक नए प्रशिक्षण समूह के लिए डोजो को संचालित किया। विभिन्न विश्लेषकों ने कहा है कि डोजो "प्रभावशाली है, लेकिन यह सुपरकंप्यूटिंग को नहीं बदलेगा", "एक गेम-चेंजर है क्योंकि इसे पूरी तरह से इन-हाउस विकसित किया गया है", "स्वायत्त वाहनों के विकास में बड़े पैमाने पर तेजी लाएगा", और "टेस्ला एफएसडी और एआई के भविष्य के लिए एक गेम चेंजर हो सकता है। 11 सितंबर, 2023 को, मॉर्गन स्टेनली ने टेस्ला स्टॉक (टी. एस. एल. ए.) के लिए अपने लक्ष्य मूल्य को 250 डॉलर के पूर्व लक्ष्य से बढ़ाकर 400 डॉलर कर दिया और स्टॉक को इलेक्ट्रिक वाहन क्षेत्र में अपनी शीर्ष पसंद बताते हुए कहा कि टेस्ला का डोजो सुपरकंप्यूटर टेस्ला के बाजार मूल्य में 500 अरब डॉलर की उछाल ला सकता है। तकनीकी वास्तुकला डोजो सुपरकंप्यूटर की मौलिक इकाई डी1 चिप है, जिसे टेस्ला में पूर्व-एएमडी सीपीयू डिजाइनर गणेश वेंकटरमणन के नेतृत्व में एक टीम द्वारा डिजाइन किया गया है, जिसमें एमिल टैल्पेस, देबजीत दास सरमा, डगलस विलियम्स, बिल चांग और राजीव कुरियन शामिल हैं। डी1 चिप का निर्माण ताइवान सेमीकंडक्टर मैन्युफैक्चरिंग कंपनी (टी. एस. एम. सी.) द्वारा 7 नैनोमीटर (एन. एम.) सेमीकंडक्टर नोड्स का उपयोग करके किया जाता है, जिसमें 50 बिलियन ट्रांजिस्टर होते हैं और इसका आकार बड़ा होता है। 2022 में आर्टिफिशियल इंटेलिजेंस (ए. आई.) दिवस पर अद्यतन करते हुए, टेस्ला ने घोषणा की कि डोजो कई एक्स. ए. पी. ओ. डी. तैनात करेगा, जिसमें होंगेः 354 कंप्यूटिंग कोर प्रति डी1 चिप 25 डी1 चिप्स प्रति प्रशिक्षण टाइल (कोर) 6 प्रशिक्षण टाइल प्रति सिस्टम ट्रे (कोर, मेजबान इंटरफेस हार्डवेयर के साथ) 2 सिस्टम ट्रे प्रति कैबिनेट (कोर, डी1 चिप्स) 10 कैबिनेट प्रति एक्स. ए. पी. ओ. डी. (कोर, डी1 चिप्स) टेस्ला के ऑटोपायलट हार्डवेयर के वरिष्ठ निदेशक वेंकटरमणन के अनुसार, डोजो के पास कंप्यूटिंग शक्ति के एक एक्स. ए. फ्लॉप (एक मिलियन टेराफ्लॉप) से अधिक होंगे। तुलना के लिए, एनवीडिया के अनुसार, अगस्त 2021 में, (प्री-डोजो) टेस्ला एआई-प्रशिक्षण केंद्र ने 720 नोड्स का उपयोग किया, जिनमें से प्रत्येक में कुल 5,760 जीपीयू के लिए आठ एनवीडिया ए100 टेंसर कोर जीपीयू थे, जो प्रदर्शन के 1.8 एक्सफ्लॉप तक प्रदान करते थे। डी1 चिप डी1 प्रसंस्करण चिप का प्रत्येक नोड (कंप्यूटिंग कोर) एक सुपरस्केलर कोर के साथ एक सामान्य उद्देश्य 64-बिट सीपीयू है। यह आंतरिक निर्देश-स्तर समानता का समर्थन करता है, और इसमें एक साथ मल्टीथ्रेडिंग (एस. एम. टी.) शामिल है। यह आभासी स्मृति का समर्थन नहीं करता है और सीमित स्मृति सुरक्षा तंत्र का उपयोग करता है। डोजो सॉफ्टवेयर/अनुप्रयोग चिप संसाधनों का प्रबंधन करते हैं। डी1 निर्देश सेट 64-बिट स्केलर और 64-बिट एकल निर्देश, एकाधिक डेटा (एस. आई. एम. डी.) वेक्टर निर्देश दोनों का समर्थन करता है। पूर्णांक इकाई 8,16,32 या 64 बिट पूर्णांकों का समर्थन करते हुए कम निर्देश सेट कंप्यूटर (आरआईएससी-वी) और कस्टम निर्देशों को मिलाती है। कस्टम वेक्टर गणित इकाई मशीन लर्निंग कर्नेल के लिए अनुकूलित है और कई डेटा प्रारूपों का समर्थन करती है, जिसमें सटीक और संख्यात्मक श्रेणियों का मिश्रण होता है, जिनमें से कई संकलक संयोजन योग्य होते हैं। एक साथ 16 वेक्टर प्रारूपों का उपयोग किया जा सकता है। प्रत्येक डी1 नोड एक 32-बिट लाने वाली विंडो का उपयोग करता है जिसमें आठ निर्देश होते हैं। एक आठ-चौड़ा डिकोडर प्रति चक्र दो धागे का समर्थन करता है। यह फ्रंट एंड एक चार-चौड़े, चार-तरफा एस. एम. टी. स्केलर शेड्यूलर को फ़ीड करता है जिसमें दो पूर्णांक इकाइयाँ, दो पता इकाइयाँ और एक रजिस्टर फ़ाइल/धागा होता है। एक दो-पक्षीय सदिश अनुसूचक में चार-तरफा एस. एम. टी. होता है, जो एक 64-बिट चौड़ी एस. आई. एम. डी. इकाई या चार 8 × 8 × 4 मैट्रिक्स गुणन इकाइयों को प्रदान करता है। नेटवर्क ऑन-चिप (एन. ओ. सी.) राउटर कोर को द्वि-आयामी जाल नेटवर्क में जोड़ता है। यह प्रत्येक पड़ोसी नोड से सभी चार दिशाओं में एक पैकेट अंदर और एक पैकेट बाहर भेज सकता है, साथ ही एक 64-बिट रीड और एक 64-बिट राइट प्रति घड़ी चक्र स्थानीय एसआरएएम को भेज सकता है। हार्डवेयर देशी संचालन स्मृति और सीपीयू में डेटा, सेमाफोर और बाधा बाधाओं को स्थानांतरित करते हैं। सिस्टम-वाइड डबल डेटा रेट 4 (डी. डी. आर. 4) सिंक्रोनस डायनामिक रैंडम-एक्सेस मेमोरी (एस. डी. आर. ए. एम.) मेमोरी थोक भंडारण की तरह काम करती है। मेमोरी प्रत्येक कोर में 1.25 मेगाबाइट (एमबी) एसआरएएम मुख्य मेमोरी होती है। लोड और स्टोर की गति क्रमशः 400 गीगाबाइट (जीबी) प्रति सेकंड और 270 जीबी/सेकंड तक पहुंच जाती है। चिप में स्पष्ट कोर-टू-कोर डेटा हस्तांतरण निर्देश हैं। प्रत्येक एस. आर. ए. एम. में एक अद्वितीय सूची पार्सर होता है जो डिकोडरों की एक जोड़ी को फीड करता है और एक इकट्ठा करने वाला इंजन जो वेक्टर रजिस्टर फ़ाइल को फीड करता है, जो एक साथ सीधे नोड्स में जानकारी स्थानांतरित कर सकता है। बारह नोड्स (कोर) को एक स्थानीय ब्लॉक में समूहीकृत किया जाता है। नोड्स को एक एकल डाई पर 18 × 20 सरणी में व्यवस्थित किया जाता है, जिनमें से 354 कोर अनुप्रयोगों के लिए उपलब्ध हैं। डाई 2 गीगाहर्ट्ज़ (गीगाहर्ट्ज़) पर चलता है और कुल 440 एमबी एसआरएएम (360 कोर × 1.25 एमबी/कोर) है। यह 16-बिट ब्रेन फ्लोटिंग पॉइंट (बी. एफ. 16) नंबरों का उपयोग करके या कॉन्फ़िगर करने योग्य 8-बिट फ्लोटिंग पॉइंट (सी. एफ. फ्लोट 8) नंबरों का उपयोग करके 376 टेराफ्लॉप तक पहुंचता है, जो एक टेस्ला प्रस्ताव है, और एफ. पी. 32 पर 22 टेराफ्लॉप। प्रत्येक डाई में अन्य डाई से जोड़ने के लिए परिधि के साथ 576 द्वि-दिशात्मक सीरियलाइज़र/डिसेरियलाइज़र (एस. आर. डी. ई. एस.) चैनल होते हैं, और सभी चार डाई किनारों पर 8 टी. बी./एस. सी. चलते हैं। प्रत्येक डी1 चिप में लगभग 400 वाट की तापीय डिजाइन शक्ति होती है। प्रशिक्षण टाइल जल-शीतलित प्रशिक्षण टाइल 25 डी1 चिप्स को 5x5 सरणी में पैक करती है। प्रत्येक टाइल 40 इनपुट/आउटपुट (आई/ओ) चिप्स के माध्यम से कुल बैंडविड्थ के 36 टीबी/सेकंड का समर्थन करती है-चिप जाल नेटवर्क की आधी बैंडविड्थ। प्रत्येक टाइल 10 टीबी/सेकंड ऑन-टाइल बैंडविड्थ का समर्थन करती है। प्रत्येक टाइल में 11 जीबी एसआरएएम मेमोरी (25 डी1 चिप्स × 360 कोर/डी1 × 125 एमबी/कोर) होती है। प्रत्येक टाइल बी. एफ. 16/सी. एफ. फ्लोट 8 परिशुद्धता (25 डी1 चिप्स × 376 टी. एफ. एल. ओ. पी./डी1) पर 9 पेटाफ्लॉप प्राप्त करती है। प्रत्येक टाइल 15 किलोवाट की खपत करती है; 52 वोल्ट पर 288 एम्पीयर। सिस्टम ट्रे सिक्स टाइलों को एक सिस्टम ट्रे में एकत्रित किया जाता है, जो एक मेजबान इंटरफेस के साथ एकीकृत होता है। प्रत्येक मेजबान इंटरफेस में 512 x86 कोर शामिल हैं, जो एक लिनक्स-आधारित उपयोगकर्ता वातावरण प्रदान करता है। इससे पहले, डोजो सिस्टम ट्रे को ट्रेनिंग मैट्रिक्स के रूप में जाना जाता था, जिसमें छह ट्रेनिंग टाइल्स, चार होस्ट सर्वरों में 20 डोजो इंटरफेस प्रोसेसर कार्ड और ईथरनेट से जुड़े सहायक सर्वर शामिल हैं। इसमें 53,100 डी1 कोर हैं, जिन्हें बी. एफ. 16 और सी. एफ. फ्लोट8 प्रारूपों में 1 एक्सफ्लॉप पर मूल्यांकन किया गया है। इसमें 1 टीबी ऑन-टाइल एसआरएएम मेमोरी और 13 टीबी डुअल इन-लाइन हाई बैंडविड्थ मेमोरी (एचबीएम) है। डोजो इंटरफेस प्रोसेसर डोजो इंटरफेस प्रोसेसर कार्ड (डी. आई. पी.) टाइल सरणी के किनारों पर बैठते हैं और जाली नेटवर्क से जुड़े होते हैं। मेजबान प्रणाली डी. आई. पी. को शक्ति प्रदान करती है और विभिन्न प्रणाली प्रबंधन कार्य करती है। एक डी. आई. पी. मेमोरी और आई/ओ सह-प्रोसेसर में 32 जी. बी. साझा एच. बी. एम. (या तो एच. बी. एम. 2ई या एच. बी. एम. 3) होता है-साथ ही ईथरनेट इंटरफेस जो जाल नेटवर्क को दरकिनार करते हैं। प्रत्येक डी. आई. पी. कार्ड में 2 आई/ओ. प्रोसेसर होते हैं जिनमें 4 मेमोरी बैंक होते हैं और कुल 32 जी. बी. और 800 जी. बी./सेकंड बैंडविड्थ होती है। डी. आई. पी. एक पी. सी. आई.-एक्सप्रेस 4 x 16 स्लॉट में प्लग होता है जो प्रति कार्ड 32 जी. बी./सेकंड बैंडविड्थ प्रदान करता है। पाँच कार्ड प्रति टाइल किनारे पर मेजबान सर्वर को 160 जीबी/सेकंड और टाइल को 4.5 टीबी/सेकंड की बैंडविड्थ प्रदान करते हैं। टेस्ला ट्रांसपोर्ट प्रोटोकॉल (टी. टी. पी.) पी. सी. आई.-एक्सप्रेस पर एक मालिकाना इंटरकनेक्ट है। एक 50 जीबी/सेकंड टी. टी. पी. प्रोटोकॉल लिंक ईथरनेट पर चलता है जिससे या तो एक एकल 400 जीबी/सेकंड पोर्ट या 200 जीबी/सेकंड पोर्ट के युग्मित सेट तक पहुँचा जा सकता है। पूरे द्वि-आयामी जाल नेटवर्क को पार करने में 30 हॉप्स लग सकते हैं, जबकि ईथरनेट पर टी. टी. पी. केवल चार हॉप्स (निचले बैंडविड्थ पर) लेता है, जिससे ऊर्ध्वाधर विलंबता कम हो जाती है। कैबिनेट और एक्सापोडी डोजो एक कैबिनेट में ऊर्ध्वाधर रूप से टाइलों को ढेर करते हैं ताकि उनके बीच की दूरी और संचार समय को कम किया जा सके। दोजो एक्सापॉड प्रणाली में 120 टाइल्स शामिल हैं, जो कुल 1,062,000 उपयोग करने योग्य कोर हैं, जो 20 एक्सफ्लॉप्स तक पहुंचते हैं। सॉफ्टवेयर डोजो संरचना पायटॉर्च का समर्थन करता है, "सी या सी + + के रूप में निम्न स्तर कुछ भी नहीं, सीयूडीए की तरह दूर से कुछ भी नहीं।" एस. आर. ए. एम. एकल पता स्थान के रूप में प्रस्तुत करता है। क्योंकि एफ. पी. 32 में ए. आई. कार्यों के लिए आवश्यकता से अधिक सटीकता और सीमा है, और एफ. पी. 16 में पर्याप्त नहीं है, टेस्ला ने 8-और 16-बिट विन्यास योग्य फ्लोटिंग पॉइंट प्रारूप (सी. एफ. फ्लोट 8 और सी. एफ. फ्लोट 16, क्रमशः) तैयार किए हैं जो संकलक को गतिशील रूप से सेट करने की अनुमति देते हैं। संदर्भ बाहरी लिंक डोजो सुपरकंप्यूटर कंप्यूटर दृष्टि