Põhimudelite juurdepääsetavaks muutmine: avatud ja suletud lähtekoodiga AI

Praegune teksti ja pildi generatiivsete AI-mudelite tohutu plahvatus on olnud vältimatu. Kuna need mudelid muutuvad üha võimekamaks, on "baasmudel" suhteliselt uus termin, mida kasutatakse. Mis on siis baasmudel?

Mõiste jääb mõnevõrra ebamääraseks. Mõned määratlevad selle parameetrite arvu ja seega ka närvivõrgu suuruse järgi, teised aga ainulaadsete ja keeruliste ülesannete arvu järgi, mida mudel suudab täita. Kas on tõesti nii põnev muuta tehisintellekti mudeleid aina suuremaks ja mudeli võimet mitme ülesandega toime tulla? Kui loobuda kogu reklaamist ja turunduskeelest, on nende uute põlvkondade AI mudelite puhul tõeliselt keeruline see, et need muudavad põhjalikult seda, kuidas me arvutite ja andmetega suhtleme. Võite mõelda sellistele ettevõtetele nagu Cohere, Covariant, Hebbia ja You.com.

Oleme nüüd jõudnud tehisintellekti kriitilisse faasi, kus see, kes suudab neid võimsaid mudeleid ehitada ja teenindada, on muutunud peamiseks arutelupunktiks, eriti kuna hakkavad kerkima eetilised küsimused, näiteks kellel on õigus millistele andmetele, kas mudelid rikuvad mõistlikku privaatsust. eeldused, kas andmete kasutamise nõusolek on tegur, mis on "sobimatu käitumine" ja palju täiendavaid halli alasid, mis vajavad valgust. Kuna sellised küsimused on laual, on mõistlik eeldada, et need, kes kontrollivad AI mudeleid, on meie aja kõige olulisemad otsustajad.

Kas avatud lähtekoodiga baasmudelite jaoks on mäng?

Tehisintellektiga seotud eetiliste probleemide tõttu on tähelepanu avatud lähtekoodiga põhimudelitele kogumas hoogu. Kuid põhimudelite ehitamine pole odav. Need nõuavad kümneid tuhandeid tipptasemel GPU-sid (graafikaprotsessorid) ja paljusid masinõppeinsenere ja teadlasi. Põhimudelite ehitamise valdkond on siiani olnud juurdepääsetav ainult pilvehiiglastele ja väga hästi rahastatud idufirmadele, mille tulupotentsiaal võib ulatuda sadade miljonite dollariteni.

Suurim takistus avatud lähtekoodiga põhimudelitele ikka raha. Selleks, et avatud lähtekoodiga AI-süsteemid oleksid kasumlikud ja jätkusuutlikud, nõuavad nende toimimiseks ja nõuetekohaseks haldamiseks siiski kümneid miljoneid dollareid. Kuigi see on murdosa sellest, mida suured ettevõtted oma jõupingutustesse investeerivad, on see idufirma jaoks siiski üsna märkimisväärne.

Näeme, kuidas Stability AI katse avada Neo-GPT ja muuta see tõeliseks äriks ebaõnnestus, kuna seda edestasid sellised ettevõtted nagu Open AI ja Cohere. Ettevõte peab nüüd võitlema Getty Imagesi kohtuasjaga, mis ähvardab ettevõtte tähelepanu oma eesmärkidelt kõrvale juhtida ja täiendavalt koormata nii rahalisi kui ka inimressursse. Meta vastuseis suletud lähtekoodiga süsteemidele LLaMA kaudu on lisanud avatud lähtekoodiga liikumisele hoogu, kuid on veel liiga vara teada, kas nad jätkavad oma kohustuste täitmist.

Hea uudis on see, et mudelid muutuvad üha väiksemaks, kasutades väga hiljutisi tehnikaid, nagu madala asetusega kohandamine (LoRa) ja mõtteahela viip (CoT). Kuid need nõuavad siiski palju iteratsioone, et olla äriliselt elujõulised, mis loomulikult hõlmab miljoneid dollareid ja palju arvutusvõimsust.

Praegu ebaõnnestuvad enamik avatud lähtekoodiga AI-ettevõtteid ja meil pole andmeid selle kohta, kui suured ja edukad avatud lähtekoodiga AI projektid võiksid saada. See muudab riskikapitalistide jaoks keeruliseks selliste tšekkide kirjutamise, mida sellised projektid vajavad, eriti ajal, mil pangandussüsteem on nii habras. Kuigi see võib tulevikus paraneda, tähendab see praegu strateegilisi investeeringuid, mis taas naasevad Big Tech ettevõtetele.

Olenemata sellest, kust rahalised vahendid potentsiaalselt pärinevad, peame silmitsi seisma reaalsusega, et pärast hüppe vaibumist ja turundussõnumite hääbumist jäävad väljakutsed jätkusuutlikkuse, edu riski ja kasumlikkuse rindel, samuti kvaliteedi ja täpsuse säilitamisel. väärtus. . Lühidalt öeldes peavad avatud lähtekoodiga AI-ettevõtted välja mõtlema, kuidas saada tõeliseks ettevõtteks, mis on pikka aega olnud suurim takistus.

Mõju alustavatele ettevõtetele

Nagu nägime ChatGPT massilise leviku puhul, on põhimudelid tulevik, kuid kuidas need seda mõjutavad, tuleb veel näha. Tekkimas on uus põlvkond idufirmasid, kes teevad igasuguseid hämmastavaid asju, olgu need siis suletud või avatud lähtekoodiga loodud. Püüdes otsustada, milline tee on parim, võivad asutajad esitada endale keerulisi küsimusi, mis on seotud nende äritegevuse kõigi aspektidega. Näiteks:

Financiación
¿De dónde viene el dinero? ¿Tendrán los bolsillos lo suficientemente profundos como para hacerlo solo como una empresa de código cerrado? Si no, ¿qué tipo de pareja se buscará? ¿Se puede mantener el control del proyecto? Si se opta por la ruta del código abierto, ¿cómo se financiará?

Equipo
¿El proyecto se presta al aporte y desarrollo de la comunidad, o requiere estrictos controles de calidad? ¿Cómo se podrá atraer al mejor talento para desarrollar el proyecto?

Experimentación
¿Cómo podrán las personas experimentar el proyecto para aprender sobre él y probarlo? ¿Se abrirá pruebas y a un marketing extensivo? ¿Estará abierto un entorno de pruebas (sandbox) para los desarrolladores? ¿Se generar entusiasmo a través de redes comunitarias de código abierto?

Fidelización
¿Cómo se crea la propia comunidad de usuarios? ¿Qué sucede si se cambia de enfoque, es decir, cuánto se puede perderen reputación y en términos de usuarios si comienza como un proyecto de código abierto y luego se debe ir en la dirección opuesta si un socio con recursos lo exige?

Ética y educación
¿Cuáles son sus responsabilidades cuando se trata de cómo se utiliza el proyecto? ¿Qué hacer si se coopta para fines no deseados y dañinos? ¿Hay intervención si aprecia un "comportamiento inapropiado" y, de ser así, en qué medida? ¿Cómo se monitorea el proyecto y transmitirá las políticas a los clientes/usuarios? En resumen, ¿dónde están los límites de seguridad?

See on alles algus. Küsimusi on praegu palju rohkem kui vastuseid.

Tulevase edu määramine

Kuna idufirmad liiguvad konkreetse niši jaoks põhimudelite loomisel edasi, on oluline, et nad mõistaksid, et nende asjakohasuse ja lõpliku väärtuse hindamiseks on vaja uusi verstaposte. Nagu Ryan Shannon Radical Venturesist hiljuti märkis:

Erinevalt traditsioonilisest idufirmast, mis suudab lihtsalt koodi kirjutada, toodet tarnida ja klientide tagasisidet korrata, peavad Foundation Modeli ettevõtted kulutama rohkem aega oma mudelite ehitamisele ja koolitamisele, et toode jõuaks elujõulisele ja kasutusvalmis positsioonile. See võib sageli võtta mitu aastat, miljoneid dollareid (või... sadu miljoneid dollareid) ja mitu kordamist, enne kui tooted on piisavalt head, et ettevõtted saaksid klientidelt nende kasutamise eest tasu võtta.

See on raske ülesanne ja võib nõuda investoritelt või suurema kogukonna liikmetelt usuhüpet. Alginvesteering sihtasutuste mudelitesse on oluliselt suurem kui see, mida teised idufirmad vajavad, kuid taustal võib kasutuselevõtt olla enneolematu. Need on muundamistehnoloogiad, mille sarnast pole varem nähtud.

Õige aja, raha ja talendiga põhimudelid, olgu avatud või suletud, mitte ainult ei too tulevikku, vaid ka kontrollivad seda mingil määral. Põhimudelid juhivad seda, kuidas me tarbime teavet, mis kujundab meie vaatenurki ja otsuseid, millel on suur mõju sellele, kuidas ühiskond suhtleb, õpib, mõistab ja loob.

Panused on uskumatult kõrged. Avatud lähtekoodiga mudelid peavad leidma ärimudeli, mis toimib pikas perspektiivis, samas kui suletud mudelid peavad esmalt tegelema eetiliste probleemidega koos käitumiskontrolli ja järelevalvega. Sellel segasel ja kiiresti areneval maastikul pole täiuslikku lahendust leitud, kuid suurte küsimustega silmitsi seismine ja oma kohustuste uurimine on innovatsiooni jaoks hädavajalik. Kui kaalume kõike võimalikku, nii head kui ka halba, avastatakse kaitse ja toimub tõeline edasiminek.