Tesla Dojo
ટેસ્લા ડોજો એ એક સુપરકોમ્પ્યુટર છે જે ટેસ્લા દ્વારા કમ્પ્યુટર વિઝન વિડિયો પ્રોસેસિંગ અને માન્યતા માટે ડિઝાઇન અને બનાવવામાં આવ્યું છે. તેનો ઉપયોગ ટેસ્લાના મશીન લર્નિંગ મોડેલોને તેની પૂર્ણ સ્વ-ડ્રાઇવિંગ (એફએસડી) અદ્યતન ડ્રાઈવર-સહાય પ્રણાલીમાં સુધારો કરવા માટે તાલીમ આપવા માટે કરવામાં આવશે. ટેસ્લાના જણાવ્યા અનુસાર તેનું ઉત્પાદન જુલાઈ 2023માં શરૂ થયું હતું. ડોજોનું લક્ષ્ય ટેસ્લાની 4 + મિલિયન કારમાંથી વાસ્તવિક જીવનની ડ્રાઇવિંગ પરિસ્થિતિઓમાંથી મેળવેલા લાખો ટેરાબાઇટ્સ વીડિયો ડેટાને અસરકારક રીતે પ્રક્રિયા કરવાનું છે. આ ધ્યેય પરંપરાગત સુપરકોમ્પ્યુટર ડિઝાઇન કરતાં નોંધપાત્ર રીતે અલગ માળખા તરફ દોરી ગયો. ટેસ્લા તેની ઓટોપાયલટ એડવાન્સ્ડ ડ્રાઈવર આસિસ્ટન્સ સિસ્ટમ વિકસાવવા માટે ઘણા મોટા પાયે સમાંતર કમ્પ્યુટિંગ ક્લસ્ટર્સનું સંચાલન કરે છે. 5, 760 એનવીડિયા એ100 ગ્રાફિક્સ પ્રોસેસિંગ યુનિટ્સ (જી. પી. યુ.) નો ઉપયોગ કરતા તેના પ્રાથમિક અનામી સમૂહને 2021માં કમ્પ્યુટર વિઝન અને પેટર્ન રેકગ્નિશન (સી. સી. વી. પી. આર. 2021) પરની ચોથી આંતરરાષ્ટ્રીય સંયુક્ત પરિષદમાં એન્ડ્રેજ કાર્પેથી દ્વારા લગભગ 81.6 પેટાફ્લોપ્સ પર "વિશ્વમાં આશરે પાંચમા નંબરનું સુપરકોમ્પ્યુટર" હોવાનું કહેવામાં આવ્યું હતું, જે એનવીડિયા સેલેન સુપરકોમ્પ્યુટરની કામગીરીને માપવા પર આધારિત છે, જે સમાન ઘટકોનો ઉપયોગ કરે છે. જો કે, પ્રાથમિક ટેસ્લા જી. પી. યુ. ક્લસ્ટરની કામગીરી વિવાદિત રહી છે, કારણ કે તે સ્પષ્ટ નહોતું કે આને સિંગલ-પ્રિસિઝન અથવા ડબલ-પ્રિસિઝન ફ્લોટિંગ પોઇન્ટ નંબરો (એફ. પી. 32 અથવા એફ. પી. 64) નો ઉપયોગ કરીને માપવામાં આવ્યું હતું. ટેસ્લા તાલીમ માટે બીજા 4,032 જી. પી. યુ. ક્લસ્ટર અને ઓબ્જેક્ટ્સના સ્વચાલિત લેબલિંગ માટે ત્રીજા 1,752 જી. પી. યુ. ક્લસ્ટરનું પણ સંચાલન કરે છે. પ્રાથમિક અનામી ટેસ્લા જી. પી. યુ. ક્લસ્ટરનો ઉપયોગ વાસ્તવિક દુનિયામાં ટેસ્લા કારમાં કાર્યરત ટેસ્લા ઓટોપાયલટ કેમેરાથી લેવામાં આવેલી દર દસ સેકન્ડ લાંબી દસ લાખ વિડિયો ક્લિપ્સની પ્રક્રિયા કરવા માટે કરવામાં આવ્યો છે, જે પ્રતિ સેકન્ડ 36 ફ્રેમ પર ચાલે છે. સામૂહિક રીતે, આ વિડિયો ક્લિપ્સમાં ઊંડાઈ અને વેગ ડેટા સાથે છ અબજ ઓબ્જેક્ટ લેબલ્સ હતા; ડેટા સેટનું કુલ કદ 1.5 પેટાબાઇટ્સ હતું. આ ડેટા સેટનો ઉપયોગ ટેસ્લા કારમાં ઓટોપાયલટ કમ્પ્યુટર્સને રસ્તાઓ સમજવામાં મદદ કરવાના હેતુથી ન્યુરલ નેટવર્કને તાલીમ આપવા માટે કરવામાં આવ્યો હતો. ઓગસ્ટ 2022 સુધીમાં, ટેસ્લાએ પ્રાથમિક જી. પી. યુ. ક્લસ્ટરને 7,360 જી. પી. યુ. માં અપગ્રેડ કર્યું હતું. એપ્રિલ 2019 માં ટેસ્લાના "સ્વાયત્તતા રોકાણકાર દિવસ" દરમિયાન મસ્ક દ્વારા ડોજોનો પ્રથમ ઉલ્લેખ કરવામાં આવ્યો હતો. ઓગસ્ટ 2020માં, મસ્કે જણાવ્યું હતું કે વીજળી અને થર્મલ સમસ્યાઓના કારણે તે "લગભગ એક વર્ષ દૂર" છે. 19 ઓગસ્ટ, 2021ના રોજ ટેસ્લાના આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) દિવસ પર ડોજોની સત્તાવાર જાહેરાત કરવામાં આવી હતી. ટેસ્લાએ ડી1 ચિપની વિગતો અને "પ્રોજેક્ટ ડોજો" માટેની તેની યોજનાઓ જાહેર કરી, એક ડેટાસેન્ટર જેમાં 3,000 ડી1 ચિપ્સ હશે; પ્રથમ "તાલીમ ટાઇલ" એક અઠવાડિયા પહેલા પૂર્ણ થઈ હતી અને વિતરિત કરવામાં આવી હતી. ઓક્ટોબર 2021માં, ટેસ્લાએ ઇન્સ્ટિટ્યૂટ ઓફ ઇલેક્ટ્રિકલ એન્ડ ઇલેક્ટ્રોનિક્સ એન્જિનિયર્સ (IEEE) સ્ટાન્ડર્ડ 754ના વિસ્તરણ તરીકે કન્ફિગરેબલ ફ્લોટ8 (CFloat8) અને કન્ફિગરેબલ ફ્લોટ16 (CFloat16) ફ્લોટિંગ પોઇન્ટ ફોર્મેટ અને અંકગણિત કામગીરીનું વર્ણન કરતું "ડોજો ટેક્નોલોજી" શ્વેતપત્ર બહાર પાડ્યું હતું. સપ્ટેમ્બર 2022માં ફોલો-અપ AI ડે પર, ટેસ્લાએ જાહેરાત કરી હતી કે તેણે ઘણી સિસ્ટમ ટ્રે અને એક કેબિનેટ બનાવી છે. એક પરીક્ષણ દરમિયાન, કંપનીએ જણાવ્યું હતું કે પ્રોજેક્ટ ડોજોએ સ્થાનિક સેન જોસ, કેલિફોર્નિયાના પાવર સબસ્ટેશનને ટ્રિપ કરતા પહેલા 2.3 મેગાવોટ (એમડબલ્યુ) વીજળી ખેંચી હતી. તે સમયે, ટેસ્લા દરરોજ એક તાલીમ ટાઇલ એસેમ્બલ કરી રહી હતી. ઓગસ્ટ 2023 માં, ટેસ્લાએ ઉત્પાદન ઉપયોગ માટે ડોજો પર સંચાલિત કર્યું હતું તેમજ 10,000 એનવીડિયા એચ 100 જી. પી. યુ. સાથે ગોઠવેલું નવું તાલીમ ક્લસ્ટર. વિવિધ વિશ્લેષકોએ જણાવ્યું છે કે ડોજો "પ્રભાવશાળી છે, પરંતુ તે સુપરકમ્પ્યુટિંગમાં પરિવર્તન લાવશે નહીં", "એક ગેમ-ચેન્જર છે કારણ કે તે સંપૂર્ણપણે ઇન-હાઉસ વિકસાવવામાં આવ્યું છે", "સ્વાયત્ત વાહનોના વિકાસને મોટા પાયે વેગ આપશે", અને "ટેસ્લા એફએસડીના ભવિષ્ય માટે અને વધુ વ્યાપક રીતે એઆઈ માટે ગેમ ચેન્જર બની શકે છે". 11 સપ્ટેમ્બર, 2023ના રોજ, મોર્ગન સ્ટેન્લીએ ટેસ્લા સ્ટોક (ટી. એસ. એલ. એ.) માટે તેની લક્ષ્ય કિંમત 250 ડોલરના અગાઉના લક્ષ્યાંકથી વધારીને 400 ડોલર કરી હતી અને આ શેરને ઇલેક્ટ્રિક વાહન ક્ષેત્રમાં તેની ટોચની પસંદગી ગણાવી હતી, એમ કહીને કે ટેસ્લાનું ડોજો સુપરકોમ્પ્યુટર ટેસ્લાના બજાર મૂલ્યમાં 500 અબજ ડોલરનો ઉછાળો લાવી શકે છે. તકનીકી સ્થાપત્ય ડોજો સુપરકોમ્પ્યુટરનું મૂળભૂત એકમ ડી1 ચિપ છે, જે ટેસ્લામાં ભૂતપૂર્વ એએમડી સીપીયુ ડિઝાઈનર ગણેશ વેંકટરમણની આગેવાની હેઠળની ટીમ દ્વારા ડિઝાઇન કરવામાં આવ્યું છે, જેમાં એમિલ ટેલ્પ્સ, દેબજીત દાસ શર્મા, ડગ્લાસ વિલિયમ્સ, બિલ ચાંગ અને રાજીવ કુરિયનનો સમાવેશ થાય છે. ડી1 ચિપનું ઉત્પાદન તાઇવાન સેમિકન્ડક્ટર મેન્યુફેક્ચરિંગ કંપની (ટી. એસ. એમ. સી.) દ્વારા 7 નેનોમીટર (એન. એમ.) સેમિકન્ડક્ટર નોડ્સનો ઉપયોગ કરીને કરવામાં આવે છે, જેમાં 50 અબજ ટ્રાન્ઝિસ્ટર હોય છે અને તેનું મોટું કદ. 2022 માં આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) દિવસ પર અપડેટ કરતા, ટેસ્લાએ જાહેરાત કરી હતી કે ડોજો બહુવિધ એક્ઝાઓપીઓડી તૈનાત કરીને સ્કેલ કરશે, જેમાં હશેઃ D1 ચિપ દીઠ 354 કમ્પ્યુટિંગ કોર તાલીમ ટાઇલ (કોર) દીઠ 25 D1 ચિપ્સ સિસ્ટમ ટ્રે દીઠ 6 તાલીમ ટાઇલ્સ (કોર, યજમાન ઇન્ટરફેસ હાર્ડવેર સાથે) કેબિનેટ દીઠ 2 સિસ્ટમ ટ્રે (કોર, D1 ચિપ્સ) 10 કેબિનેટ પ્રતિ એક્ઝાઓપીઓડી (કોર, D1 ચિપ્સ) ટેસ્લાના ઓટોપાયલટ હાર્ડવેરના વરિષ્ઠ નિયામક વેંકટરમણના જણાવ્યા અનુસાર, ડોજો પાસે કમ્પ્યુટિંગ પાવરના એક એક્ઝાફ્લોપ (એક મિલિયન ટેરાફ્લોપ્સ) કરતાં વધુ હશે. સરખામણી માટે, એનવીડિયા અનુસાર, ઓગસ્ટ 2021 માં, (પૂર્વ-ડોજો) ટેસ્લા એઆઈ-તાલીમ કેન્દ્રએ 720 નોડ્સનો ઉપયોગ કર્યો હતો, જેમાં દરેકમાં કુલ 5,760 જીપીયુ માટે આઠ એનવીડિયા એ 100 ટેન્સર કોર જીપીયુ હતા, જે પ્રદર્શનના 1.8 એક્સફ્લોપ્સ સુધી પ્રદાન કરે છે. ડી1 ચિપ ડી1 પ્રોસેસિંગ ચિપનો દરેક નોડ (કમ્પ્યુટિંગ કોર) એ સુપરસ્કેલર કોર સાથેનો સામાન્ય હેતુ ધરાવતો 64-બીટ સીપીયુ છે. તે આંતરિક સૂચના-સ્તરની સમાંતરતાને ટેકો આપે છે, અને તેમાં એક સાથે મલ્ટીથ્રેડિંગ (એસએમટી) નો સમાવેશ થાય છે. તે વર્ચ્યુઅલ મેમરીને ટેકો આપતું નથી અને મર્યાદિત મેમરી સુરક્ષા પદ્ધતિઓનો ઉપયોગ કરે છે. ડોજો સોફ્ટવેર/એપ્લિકેશન્સ ચિપ સંસાધનોનું સંચાલન કરે છે. D1 સૂચના સમૂહ 64-બીટ સ્કેલર અને 64-બીટ સિંગલ સૂચના, બહુવિધ ડેટા (SIMD) વેક્ટર સૂચનાઓ બંનેને ટેકો આપે છે. પૂર્ણાંક એકમ ઘટાડેલા સૂચના સમૂહ કમ્પ્યુટર (RISC-V) અને વૈવિધ્યપૂર્ણ સૂચનાઓનું મિશ્રણ કરે છે, જે 8,16,32 અથવા 64 બીટ પૂર્ણાંકોને ટેકો આપે છે. કસ્ટમ વેક્ટર ગણિત એકમ મશીન લર્નિંગ કર્નલો માટે ઑપ્ટિમાઇઝ કરવામાં આવ્યું છે અને ચોકસાઇ અને આંકડાકીય શ્રેણીઓના મિશ્રણ સાથે બહુવિધ ડેટા ફોર્મેટને સપોર્ટ કરે છે, જેમાંથી ઘણા કમ્પાઇલર કમ્પોઝેબલ છે. એક સાથે 16 વેક્ટર ફોર્મેટનો ઉપયોગ કરી શકાય છે. નોડ દરેક D1 નોડ 32-બીટ લાવવાની વિંડોનો ઉપયોગ કરે છે જે આઠ સૂચનાઓ ધરાવે છે. આઠ પહોળું ડીકોડર ચક્ર દીઠ બે થ્રેડોને ટેકો આપે છે. આ ફ્રન્ટ એન્ડ ફોર-વાઇડ, ફોર-વે એસએમટી સ્કેલર શેડ્યૂલરને ફીડ કરે છે જેમાં બે પૂર્ણાંક એકમો, બે સરનામાં એકમો અને રજિસ્ટર ફાઇલ/થ્રેડ હોય છે. બે બાજુના વેક્ટર શેડ્યૂલરમાં ફોર-વે એસએમટી હોય છે, જે 64-બીટ પહોળા સિમડી એકમ અથવા ચાર 8 × 8 × 4 મેટ્રિક્સ ગુણાકાર એકમોને ફીડ કરે છે. નેટવર્ક ઓન-ચિપ (એન. ઓ. સી.) રાઉટર કોરને દ્વિ-પરિમાણીય જાળીદાર નેટવર્કમાં જોડે છે. તે ઘડિયાળ ચક્ર દીઠ સ્થાનિક એસ. આર. એ. એમ. ને એક 64-બીટ રીડ અને એક 64-બીટ રાઈટ સાથે દરેક પાડોશી નોડ પર/ત્યાંથી ચારેય દિશામાં એક પેકેટ અને એક પેકેટ મોકલી શકે છે. હાર્ડવેર નેટિવ ઓપરેશન્સ મેમરીઝ અને સીપીયુમાં ડેટા, સેમાફોર્સ અને અવરોધ અવરોધો ટ્રાન્સફર કરે છે. સિસ્ટમ-વાઇડ ડબલ ડેટા રેટ 4 (DDR4) સિંક્રનસ ડાયનેમિક રેન્ડમ-એક્સેસ મેમરી (SDRAM) મેમરી બલ્ક સ્ટોરેજની જેમ કામ કરે છે. દરેક કોરમાં 1.25 મેગાબાઇટ્સ (એમબી) ની એસઆરએએમ મુખ્ય મેમરી હોય છે. લોડ અને સ્ટોરની ઝડપ અનુક્રમે 400 ગીગાબાઇટ્સ (જીબી) પ્રતિ સેકન્ડ અને 270 જીબી/સેકન્ડ સુધી પહોંચે છે. ચિપમાં સ્પષ્ટ કોર-ટુ-કોર ડેટા ટ્રાન્સફર સૂચનાઓ છે. દરેક એસ. આર. એ. એમ. માં એક અનોખું લિસ્ટ પાર્સર હોય છે જે ડીકોડર્સની જોડી અને વેક્ટર રજિસ્ટર ફાઇલને ફીડ કરતું એક ગેધર એન્જિન પૂરું પાડે છે, જે એકસાથે નોડ્સમાં સીધી માહિતી સ્થાનાંતરિત કરી શકે છે. બાર ગાંઠો (કોર) ને સ્થાનિક બ્લોકમાં જૂથબદ્ધ કરવામાં આવે છે. નોડ્સને એક જ ડાઈ પર 18 × 20 એરેમાં ગોઠવવામાં આવે છે, જેમાંથી 354 કોર કાર્યક્રમો માટે ઉપલબ્ધ છે. ડાઈ 2 ગીગાહર્ટ્ઝ (જીએચઝેડ) પર ચાલે છે અને કુલ 440 એમબી એસઆરએએમ (360 કોર × 1.25 એમબી/કોર) ધરાવે છે. તે 16-બીટ બ્રેઇન ફ્લોટિંગ પોઇન્ટ (BF16) નંબરોનો ઉપયોગ કરીને અથવા રૂપરેખાંકિત કરી શકાય તેવા 8-બીટ ફ્લોટિંગ પોઇન્ટ (CFloat8) નંબરોનો ઉપયોગ કરીને 376 ટેરાફ્લોપ્સ સુધી પહોંચે છે, જે ટેસ્લા દરખાસ્ત છે, અને FP32 પર 22 ટેરાફ્લોપ્સ. દરેક ડાઈમાં અન્ય ડાઈ સાથે જોડાવા માટે પરિમિતિ સાથે 576 દ્વિ-દિશાત્મક સિરિયલાઇઝર/ડિસેરિયલાઇઝર (સેરડેસ) ચેનલોનો સમાવેશ થાય છે, અને તમામ ચાર ડાઈ ધાર પર 8 ટીબી/સેકન્ડ ફરે છે. દરેક ડી1 ચિપમાં આશરે 400 વોટની થર્મલ ડિઝાઇન શક્તિ હોય છે. તાલીમ ટાઇલ પાણી-ઠંડુ તાલીમ ટાઇલ 25 ડી 1 ચીપ્સને 5 × 5 એરેમાં પેકેજ કરે છે. દરેક ટાઇલ 40 ઇનપુટ/આઉટપુટ (I/O) ચિપ્સ દ્વારા 36 TB/સેકન્ડ એકંદર બેન્ડવિડ્થને સપોર્ટ કરે છે-ચિપ મેશ નેટવર્કની અડધી બેન્ડવિડ્થ. દરેક ટાઇલ 10 ટીબી/સેકન્ડ ઓન-ટાઇલ બેન્ડવિડ્થને સપોર્ટ કરે છે. દરેક ટાઇલમાં 11 જીબી એસઆરએએમ મેમરી (25 ડી1 ચિપ્સ × 360 કોર/ડી1 × 125 એમબી/કોર) હોય છે. દરેક ટાઇલ BF16/CFloat8 ચોકસાઇ (25 D1 ચિપ્સ × 376 TFLOP/D1) પર 9 પેટાફ્લોપ્સ પ્રાપ્ત કરે છે. દરેક ટાઇલ 15 કિલોવોટનો વપરાશ કરે છે; 52 વોલ્ટ પર 288 એમ્પીયર. સિસ્ટમ ટ્રે સિક્સ ટાઇલ્સને સિસ્ટમ ટ્રેમાં સંકલિત કરવામાં આવે છે, જે યજમાન ઇન્ટરફેસ સાથે સંકલિત છે. દરેક યજમાન ઈન્ટરફેસમાં 512 x86 કોરનો સમાવેશ થાય છે, જે લિનક્સ-આધારિત વપરાશકર્તા વાતાવરણ પૂરું પાડે છે. અગાઉ, ડોજો સિસ્ટમ ટ્રેને તાલીમ મેટ્રિક્સ તરીકે ઓળખવામાં આવતી હતી, જેમાં છ તાલીમ ટાઇલ્સ, ચાર યજમાન સર્વરમાં 20 ડોજો ઇન્ટરફેસ પ્રોસેસર કાર્ડ્સ અને ઇથરનેટ સાથે જોડાયેલા સંલગ્ન સર્વરનો સમાવેશ થાય છે. તેમાં 53,100 D1 કોર છે, જેને BF16 અને CFloat8 ફોર્મેટમાં 1 એક્ઝાફ્લોપ્સ પર રેટ કરવામાં આવ્યા છે. તેમાં 1 ટીબી ઓન-ટાઇલ એસઆરએએમ મેમરી અને 13 ટીબી ડ્યુઅલ ઇન-લાઇન હાઇ બેન્ડવિડ્થ મેમરી (એચબીએમ) છે. ડોજો ઇન્ટરફેસ પ્રોસેસર કાર્ડ્સ (ડી. આઈ. પી.) ટાઇલ એરેની ધાર પર બેસે છે અને જાળીદાર નેટવર્કમાં જોડાયેલા હોય છે. યજમાન પ્રણાલીઓ ડી. આઈ. પી. ને શક્તિ આપે છે અને વિવિધ પ્રણાલી વ્યવસ્થાપન કાર્યો કરે છે. ડીઆઇપી મેમરી અને આઇ/ઓ સહ-પ્રોસેસર 32 જીબી વહેંચાયેલ એચબીએમ (એચબીએમ2ઇ અથવા એચબીએમ3) ધરાવે છે-તેમજ ઇથરનેટ ઇન્ટરફેસ કે જે મેશ નેટવર્કને બાજુએ રાખે છે. દરેક ડી. આઈ. પી. કાર્ડમાં 2 I/O પ્રોસેસર્સ હોય છે, જેમાં 4 મેમરી બેન્કો હોય છે, જેમાં 800 GB/સેકન્ડની બેન્ડવિડ્થ સાથે કુલ 32 GB હોય છે. ડી. આઈ. પી. એ પી. સી. આઈ.-એક્સપ્રેસ 4.0 x16 સ્લોટમાં પ્લગ કરે છે જે કાર્ડ દીઠ 32 જીબી/સેકન્ડ બેન્ડવિડ્થ આપે છે. ટાઇલની ધાર દીઠ પાંચ કાર્ડ યજમાન સર્વરને 160 જીબી/સેકન્ડ અને ટાઇલને 4.5 ટીબી/સેકન્ડની બેન્ડવિડ્થ આપે છે. ટેસ્લા ટ્રાન્સપોર્ટ પ્રોટોકોલ ટેસ્લા ટ્રાન્સપોર્ટ પ્રોટોકોલ (TTP) એ PCI-એક્સપ્રેસ પર માલિકીનું આંતર જોડાણ છે. 50 જીબી/સેકન્ડ ટી. ટી. પી. પ્રોટોકોલ લિંક ઇથરનેટ પર ચાલે છે જે એક 400 જીબી/સેકન્ડ પોર્ટ અથવા 200 જીબી/સેકન્ડ પોર્ટના જોડીદાર સમૂહને ઍક્સેસ કરે છે. સમગ્ર દ્વિ-પરિમાણીય જાળીદાર નેટવર્કને પાર કરવામાં 30 હોપ્સ લાગી શકે છે, જ્યારે ઇથરનેટ પર TTP માત્ર ચાર હોપ્સ (નીચલા બેન્ડવિડ્થ પર) લે છે, જે ઊભી વિલંબ ઘટાડે છે. કેબિનેટ અને એક્ઝાપોડ ડોજો ટાઇલ્સને કેબિનેટમાં ઊભી રીતે ગોઠવે છે જેથી તેમની વચ્ચેનું અંતર અને સંદેશાવ્યવહારનો સમય ઘટાડી શકાય. દોજો એક્ઝા પોડ સિસ્ટમમાં 120 ટાઇલ્સનો સમાવેશ થાય છે, જે કુલ 1,062,000 ઉપયોગી કોર છે, જે 20 એક્ઝાફ્લોપ્સ સુધી પહોંચે છે. સોફ્ટવેર ડોજો પાયટોર્ચ માળખાને ટેકો આપે છે, "સી અથવા સી + + જેટલું નીચું સ્તર કંઈ નથી, સીયુડીએ જેવું દૂરથી કંઈ નથી". એસ. આર. એ. એમ. એક સરનામાની જગ્યા તરીકે રજૂ કરે છે. કારણ કે FP32 એ AI કાર્યો માટે જરૂરી કરતાં વધુ ચોકસાઇ અને શ્રેણી ધરાવે છે, અને FP16 પાસે પૂરતું નથી, ટેસ્લાએ 8-અને 16-બીટ રૂપરેખાંકિત કરી શકાય તેવા ફ્લોટિંગ પોઇન્ટ ફોર્મેટ (અનુક્રમે CFloat8 અને CFloat16) તૈયાર કર્યા છે જે કમ્પાઇલરને ગતિશીલ રીતે સેટ કરવાની મંજૂરી આપે છે. સંદર્ભો બાહ્ય કડીઓ ડોજો સુપરકોમ્પ્યુટર્સ કોમ્પ્યુટર વિઝન