Tesla AI Infra & AI Platform Engineering Manager Tim Zaman verklaarde onlangs dat de fabrikant van elektrische voertuigen nu ’s werelds zevende grootste supercomputer heeft volgens het aantal GPU’s, en dat is zelfs voordat het bedrijf zijn aangepaste Dojo-supercomputer implementeert. De enorme grafische supercomputer verwijst naar Tesla’s focus op zijn data- en computerintensieve projecten, zoals Autopilot en Full Self-Driving.
Zaman plaatste Tesla’s nieuwe hardware op social media platforms zoals Twitter en LinkedIn. In zijn post merkte de AI en Autopilot-leider op dat de EV-maker de MLSys-conferentie sponsort. Hij verklaarde toen dat Tesla zijn GPU-supercomputer had geüpgraded naar 7.360 A-100 (80 GB) GPU’s. Dit maakt de supercomputer van Tesla in feite een van ’s werelds grootste qua GPU-telling.
Zoals opgemerkt in een Data Center Dynamics-rapport, worden de A100 GPU’s geproduceerd door Nvidia, waar Zaman, interessant genoeg, werkte voorafgaand aan zijn dienstverband bij Tesla. Elke processor heeft 80 GB grafisch geheugen en een geheugenbandbreedte van 2 TB per seconde. Dat is serieuze hardware, hoewel dergelijke kracht (en waarschijnlijk meer) nodig is voor de ambitieuze projecten van Tesla.
De huidige supercomputer van Tesla is een voorlopercluster voor Dojo. Interessant genoeg merkte Tesla vorig jaar op dat de pre-Dojo-supercomputer van het bedrijf al de vijfde krachtigste ter wereld was met zijn 5.760 Nvidia A100’s. Het bedrijf lijkt sindsdien ongeveer 1.600 GPU’s aan het systeem te hebben toegevoegd, of ongeveer 27%.
Omdat Tesla’s Dojo-supercomputer intern is ontworpen, zal de enorme machine niet afhankelijk zijn van Nvidia A100-chips. In plaats daarvan zou het gebruik maken van Tesla’s aangepaste D1-chip, die wordt ondersteund door FP32, BFP16 en CFP8. Dojo zou worden geoptimaliseerd voor machine learning-workloads, met name Tesla’s Autopilot en Full Self-Driving-inspanningen. Met Dojo in beeld zouden verbeteringen in Autopilot en FSD waarschijnlijk versneld worden.
Het opmerkelijke aan Dojo is het feit dat zijn beestachtige specificaties eigenlijk maar voor één ding zijn ontworpen: autonome voertuigen mogelijk maken. Tijdens de AI Day-presentatie vorig jaar benadrukte Tesla dat Dojo een pure leermachine is met meer dan 500.000 samen gebouwde trainingsknooppunten. Tesla benadrukte ook dat Dojo een werk in uitvoering is, dus zelfs de indrukwekkende specificaties en functies die het bedrijf plaagde in AI Day zullen worden verbeterd wanneer de supercomputer wordt ingezet.
Tesla heeft ’s werelds 7e grootste supercomputer volgens GPU-telling: AI-lead
