Gigantul neuronal al lui Tesla: un „supercomputer” AI mai rapid decât orice s-a văzut vreodată.

supercomputer

La ziua investitorilor Autonomy, Elon Musk și echipa sa au arătat o mulțime de cifre. Au vorbit mult despre creșterea dimensiunii flotei și performanța noului cip de rețea neuronală FSD. Cu toate acestea, a uitat să includă un număr. Este produsul acestor doi factori înmulțiți.

Dacă te uiți la TOP500.org, care listează cele mai puternice 500 de supercomputere din lume, vei vedea o mulțime de mașini rapide. Una dintre măsurile acestor sisteme este Pflops (care corespunde unui cvadrilion (o mie de trilioane) de operații în virgulă mobilă pe secundă).

Cel mai rapid supercomputer de pe listă este Summit, de la Departamentul de Energie din Oak Ridge, Tennessee. Are o capacitate de aproximativ 144 Pflops. Și dacă adunăm toată puterea de procesare a primelor 500 de computere, obținem o putere totală de procesare de aproximativ 1.415 Pflops.

În aproximativ un an, Tesla va fi pus pe drum în jur de un milion de vehicule echipate cu noul său cip „Full Self Driving”. Aproximativ jumătate dintre ele vor veni cu acest cip preinstalat, iar cealaltă jumătate, care este în circulație astăzi, va putea fi actualizată.

Pentru întreaga flotă, Tesla va avea o putere de procesare de aproximativ 117.000 de TOP-uri. De obicei, puterea de procesare a unui supercomputer este măsurată în operațiuni cu virgulă mobilă, în timp ce Tesla este interesată doar de multiplicarea întregilor pentru autonomie. Deci, să presupunem că FLOP-urile sunt de 10 ori mai „puternice” decât OP-urile (conversia nu este exactă, dar ar trebui să ne dea un ordin de mărime).

Aceasta înseamnă că rețeaua combinată de vehicule a Tesla are ordine de putere de procesare mai mare decât cel mai rapid supercomputer din lume și o putere de procesare cu un ordin de mărime mai mare decât cele mai rapide 500 de computere combinate. Când comparăm supercalculatoarele, PFlops nu este singurul lucru care contează, dar este o măsură ușor de utilizat. Este clar că, având în vedere cantitatea foarte limitată de lățime de bandă disponibilă între mașini și cloud, arhitectura aplicației trebuie să fie foarte diferită de cea a unui supercomputer tipic și îi va oferi atât avantaje, cât și dezavantaje.

Mașina distribuită Tesla va avea caracteristici foarte interesante.

  • Va fi distribuit în întreaga lume
  • Va fi extrem de mobil
  • Acesta va fi conectat la un set de senzori (viziune, radar, ultrasunete).
  • Acesta va opera cea mai mare rețea neuronală din lume bazată pe învățarea profundă AI și axată pe recunoașterea imaginilor.
  • Dimensiunea sa va crește continuu (într-un ritm exponențial în următorii câțiva ani).
  • Va fi optimizat pentru a consuma puțină energie și va fi alimentat din ce în ce mai mult cu energie solară.
  • Se va actualiza automat și dinamic.

Obiectivul acestui gigante IT va fi limitat la o singură sarcină: conducerea vehiculelor echipate cu „inteligență artificială” în evoluție. Această inteligență artificială se va baza pe învățarea profundă a rețelelor neuronale care procesează miliarde de kilometri de date vizuale ale vehiculelor pe lună, precum și alte date ale senzorilor. Scopul acestui sistem va fi perfecționarea „conducerii autonome” a mașinilor la un nivel pe care niciun om nu ar putea spera să-l atingă.

Deși există și alte aplicații distribuite cu un număr masiv de „noduri” care pot fi văzute în miningul bitcoin, clienți XBox, Whatsapp etc…. Tesla este un sistem care se îmbunătățește pe măsură ce numărul de noduri crește, iar orele suplimentare vor face acest lucru într-un mod din ce în ce mai automat, datorită dependenței din ce în ce mai mare de rețelele neuronale și algoritmii de inginerie software.

Așa cum a subliniat Stewart Bowers în timpul prezentării sale de ziua investitorilor Autonomy: „Nu numai că putem privi ce se întâmplă în jurul vehiculului, dar ne putem uita la modul în care oamenii au ales să interacționeze cu acel mediu. Începem cu o singură rețea neuronală, detectări în jurul ei. Apoi le construim pe toate împreună în mai multe rețele neuronale și detectii multiple. Apoi integrăm toți ceilalți senzori și transformăm totul în ceea ce Elon numește „spațiu vectorial”, adică o înțelegere a lumii din jurul nostru. Pe măsură ce ne îmbunătățim, transferăm din ce în ce mai mult din această logică în rețelele neuronale în sine. Scopul final evident este ca rețeaua neuronală să se uite la toate mașinile, să adune toate informațiile și, în cele din urmă, să producă o sursă de adevăr pentru lumea din jurul nostru.”

În realitate, rețeaua neuronală Tesla creează atât un model al lumii așa cum este ea, cât și un model probabilistic al modului în care se comportă diferite lucruri din lume în funcție de aspectul lor. Luați exemplul unei gropi sau a unui sac de pe drum. Dacă este o groapă, mașina o va vedea, apoi observă că nu se mișcă niciodată. Și dacă mergi pe el, suspensia ta va avea un anumit impact. Dacă este o geantă, se poate mișca (dacă se mișcă, nu este groapă), iar dacă îl lovești pe pământ sau în aer, nu există impact major asupra vehiculului.

El continuă: „Avem o rețea neuronală care rulează pe camera noastră cu ochi de pește. Această rețea neuronală nu face o singură predicție despre lume, ea face multe predicții distincte, dintre care unele se verifică reciproc. Aceste predicții se combină pentru a ne oferi o idee mai bună despre ceea ce putem și nu putem oferi în fața vehiculului și cum să planificăm pentru asta. (…) Putem folosi acest lucru atât pentru a învăța comportamente viitoare care sunt foarte precise, dar putem, de asemenea, să construim predicții foarte precise despre modul în care lucrurile vor continua să se întâmple în fața noastră.”

După lansarea Tesla, următoarea cea mai mare aplicație „dedicată” și scalabilă în mod natural pentru un sistem de calcul ar putea fi sistemul de prognoză meteo recent actualizat de la NOAA, care rulează pe o pereche de supercalculatoare de 8 cifre 4 PFlops combinate și prognozează vremea intreaga SUA. Cu toate acestea, în timp ce cea mai recentă actualizare a NOAA a reprezentat cu aproximativ 50% mai multă putere de-a lungul a trei ani, sistemul AI auto-condus al Tesla evoluează într-un ritm mult mai rapid. După cum notează Elon: „Când lucrurile se schimbă cu o rată exponențială, este foarte dificil să ne ocupăm de asta, pentru că suntem obișnuiți să extrapolăm pe o bază liniară. Dar atunci când aveți cantități masive de hardware pe drum, datele cumulate cresc exponențial, iar software-ul se îmbunătățește într-un ritm exponențial.”

În 4 ani, pe lângă noua sa arhitectură de cip de trei ori mai rapidă în curs de dezvoltare, Tesla este de așteptat să aibă peste 5 milioane de mașini pe drum, cu o putere de procesare combinată de aproximativ 2 milioane de POP-uri (cu 22.500 de putere de procesare mai mare decât perechea actuală NOAA). ).

De asemenea, este posibil ca în următorii câțiva ani, Tesla să poată folosi internetul prin satelit de mare viteză (cel puțin în afara zonelor urbane dense) pentru a oferi lățime de bandă de mare viteză rețelei, care este în prezent sever limitată de conectivitatea la viteza 4G inconsistentă. , deschizând un potențial mai mare de îmbunătățire rapidă.

Cu toate acestea, în decurs de 4 ani, competiția s-ar putea îndrepta către Tesla. Până atunci, este foarte probabil ca alți mari producători auto să găsească o modalitate de a actualiza software-ul pe majoritatea noilor lor vehicule.