Lukustatud sisu
Nvidia tegevjuht Jensen Huang ütleb, et tema ettevõtte tehisintellekti kiipide jõudlus areneb kiiremini kui ajaloolised kiirused, mis on määratud Moore'i seadusega, mis on aastakümneid andnud andmetöötluse edusamme.
"Meie süsteemid arenevad palju kiiremini kui Moore'i seadus," ütles Huang hommikul pärast kõnet 10.000 XNUMX-liikmelisele rahvahulgale Las Vegase CES-il.
Inteli kaasasutaja Gordon Moore’i poolt 1965. aastal välja töötatud Moore’i seadus ennustas, et transistoride arv arvutikiipides kahekordistub igal aastal, mis oluliselt kahekordistab nende kiipide jõudlust. See ennustus läks suures osas tõeks, mis tõi kaasa võimsuse kiire arengu ja kulude languse aastakümneteks.
Viimastel aastatel on Moore'i seadus aeglustunud. Huangi sõnul liiguvad Nvidia tehisintellekti kiibid aga omaette kiirendatud tempos. Ettevõte ütleb, et tema uusim andmekeskuse superkiip on enam kui 30 korda kiirem tehisintellekti järelduste töökoormusel kui selle eelmine põlvkond.
"Me saame ehitada arhitektuuri, kiibi, süsteemi, raamatukogud ja algoritmid korraga," ütles Huang. "Kui teete seda, saate liikuda kiiremini kui Moore'i seadus, sest saate teha uuendusi kõikjal."
Nvidia tegevjuhi julge avaldus tuleb ajal, mil paljud mõtlevad, kas tehisintellekti areng on seiskunud. Suured AI-laborid, nagu Google, OpenAI ja Anthropic, kasutavad Nvidia tehisintellekti kiipe oma AI-mudelite koolitamiseks ja käitamiseks ning nende kiipide edusammud tähendavad tõenäoliselt AI-mudelite võimaluste edasist arengut.
See pole esimene kord, kui Huang vihjab, et Nvidia ületab Moore'i seaduse. Novembris podcastis Huang soovitas, et AI maailm liigub "Moore'i hüperseaduse" poole.
Huang lükkab tagasi idee, et tehisintellekti areng aeglustub. Selle asemel väidab ta, et nüüd on AI skaleerimisel kolm aktiivset seadust: enne treeningut, esialgne koolitusfaas, kus tehisintellekti mudelid õpivad mustreid suurte andmehulkade põhjal pärast treeningut, mis viimistlevad tehisintellekti mudeli vastuseid, kasutades selliseid meetodeid nagu inimeste tagasiside ja arvutus testimise ajal, mis toimub järelduste faasis ja annab AI-mudelile pärast iga küsimust rohkem aega "mõtlemiseks".
"Moore'i seadus oli andmetöötluse ajaloos väga oluline, kuna see vähendas andmetöötluse kulusid," ütles Huang. "Sama juhtub järeldustega, kus me suurendame jõudlust ja selle tulemusena on järelduste maksumus madalam."
Muidugi on Nvidial kasvanud planeedi kõige väärtuslikumaks ettevõtteks kasutades ära tehisintellekti tõusu, mistõttu on Huangile kasulik seda tüüpi avaldusi edastada.
Nvidia H100-d olid tehisintellektimudeleid koolitada soovivate tehnoloogiaettevõtete valikkiip, kuid nüüd, kui tehnoloogiaettevõtted keskenduvad rohkem järeldustele, on mõned kahtlenud, kas Nvidia kallid kiibid on endiselt parimad.
Testaja andmetöötlust kasutavatel tehisintellekti mudelitel on tänapäeval kõrged täitmiskulud. Muret tekitab see, et OpenAI o3 mudel, mis kasutab tõendusaja andmetöötluse laiendatud versiooni, on enamiku inimeste jaoks liiga kallis. Näiteks OpenAI kulutas peaaegu 20 dollarit ülesande kohta, kasutades o3-d, et saavutada üldises intelligentsuse testis inimese tasemel skoori. ChatGPT Plusi tellimus maksab terve kasutuskuu eest 20 dollarit.
Huang hoidis oma peaettekandes CES Las Vegases üle Nvidia uusima andmekeskuse superkiibi GB200 NVL72. See kiip on AI järelduste töökoormusel 30–40 korda kiirem kui Nvidia eelmised enimmüüdud kiibid H100. Huang ütleb, et see jõudluse hüpe tähendab, et AI arutlusmudelid, nagu OpenAI o3, mis kasutavad järeldusfaasis märkimisväärsel hulgal andmetöötlust, muutuvad aja jooksul odavamaks.
Huang ütleb, et ta on üldiselt keskendunud suurema jõudlusega kiipide loomisele ja suurema jõudlusega kiibid toovad pikemas perspektiivis kaasa madalamad hinnad.
"Testiaja andmetöötluse otsene ja vahetu lahendus nii jõudluse kui ka kulude osas on meie arvutusvõimsuse suurendamine," märkis Huang. Ta märkis, et pikemas perspektiivis saab tehisintellekti arutlusmudelite abil luua paremaid andmeid tehisintellekti mudelite eel- ja järelkoolituse jaoks.
Oleme kindlasti näinud, et AI mudelite hind on viimasel aastal langenud, osaliselt tänu selliste riistvaraettevõtete nagu Nvidia andmetöötluse edusammudele. Huang ütleb, et see on suundumus, mida ta loodab AI arutlusmudelitega jätkata, kuigi esimesed OpenAI versioonid, mida oleme näinud, on olnud üsna kallid.
Laiemas plaanis ütles Huang, et tema praegused tehisintellekti kiibid on 1.000 korda paremad kui 10 aasta tagused. See on palju kiirem kui Moore'i seadusega kehtestatud standard ja ta ütleb, et ei näe märke peagi peatumisest.