L'attuale massiccia esplosione di modelli di intelligenza artificiale generativa per testo e immagini è stata inevitabile. Man mano che questi modelli diventano sempre più capaci, "modello base" è un termine relativamente nuovo che viene utilizzato. Quindi cos'è un modello base?
Il termine è ancora alquanto vago. Alcuni lo definiscono in base al numero di parametri e quindi alla dimensione di una rete neurale, altri in base al numero di compiti unici e difficili che il modello può eseguire. È davvero così eccitante realizzare modelli di intelligenza artificiale sempre più grandi e la capacità del modello di affrontare più attività? Togli tutto l'hype e il linguaggio di marketing, la cosa davvero impegnativa di queste nuove generazioni di modelli di intelligenza artificiale è che cambiano radicalmente il modo in cui interagiamo con computer e dati. Puoi pensare ad aziende come Cohere, Covariant, Hebbia e You.com.
Siamo ora entrati in una fase critica dell'IA in cui chi riesce a costruire e servire questi potenti modelli è diventato un importante punto di contesa, in particolare quando iniziano a emergere questioni etiche, come chi ha diritto a quali dati, se i modelli violano presupposti ragionevoli della privacy, se il consenso all'utilizzo dei dati è un fattore, ciò che costituisce "comportamento inappropriato" e molti altri punti grigi che necessitano di luce. Con domande come queste sul tavolo, è ragionevole presumere che coloro che controllano i modelli di intelligenza artificiale saranno forse i decisori più importanti del nostro tempo.
Esiste un gioco per i modelli base open source?
A causa delle questioni etiche associate all'intelligenza artificiale, l'attenzione ai modelli di base open source sta guadagnando slancio. Ma costruire modelli di base non è economico. Richiedono decine di migliaia di GPU (unità di elaborazione grafica) all'avanguardia e molti ingegneri e scienziati di machine learning. Il regno della costruzione di modelli di base fino ad oggi è stato accessibile solo ai giganti del cloud e alle startup estremamente ben finanziate che si trovano con potenziali centinaia di milioni di dollari di potenziale di ritorno.
Quasi tutti i modelli e i servizi creati da queste poche aziende sono stati closed source. Tuttavia, la fonte chiusa affida una grande quantità di potere e decisioni a un numero limitato di aziende che definiranno il nostro futuro, il che può essere piuttosto inquietante.
Siamo entrati in una fase critica dell'IA in cui chi può costruire e servire questi potenti modelli è diventato un importante punto di contesa.
Il più grande ostacolo ai modelli open source di base resti i soldi. Affinché i sistemi di intelligenza artificiale open source siano redditizi e sostenibili, richiedono ancora decine di milioni di dollari per funzionare ed essere gestiti correttamente. Sebbene questa sia una frazione di ciò che le grandi aziende stanno investendo nei loro sforzi, è comunque abbastanza significativo per una startup.
Possiamo vedere come il tentativo di Stability AI di aprire Neo-GPT e trasformarlo in un vero business sia fallito, poiché è stato superato da aziende come Open AI e Cohere. L'azienda deve ora fare i conti con una causa intentata da Getty Images, che minaccia di distrarre l'azienda dai suoi obiettivi e di mettere ulteriormente a dura prova le risorse, sia finanziarie che umane. L'opposizione di Meta ai sistemi closed source attraverso LLaMA ha alimentato il movimento open source, ma è ancora troppo presto per dire se continueranno a onorare il loro impegno.
La buona notizia è che i modelli stanno diventando più piccoli con tecniche molto recenti come Low-Rank Adaptation (LoRa) e Chain-of-Thought Prompting (CoT). Ma richiedono ancora molte iterazioni per renderli commercialmente fattibili, il che naturalmente comporta milioni di dollari e molta potenza di calcolo.
In questo momento, la maggior parte delle aziende di intelligenza artificiale generativa open source fallisce e non disponiamo di punti dati su quanto potrebbero ottenere progetti di intelligenza artificiale open source "grandi" e di successo. Ciò rende difficile per i venture capitalist scrivere il tipo di assegni di cui hanno bisogno tali progetti, in particolare in un momento in cui il sistema bancario è così fragile. Anche se questo potrebbe migliorare in futuro, attualmente si traduce in investimenti strategici, che tornano alle aziende Big Tech.
Indipendentemente dalla potenziale provenienza dei fondi, dobbiamo affrontare la realtà che dopo che l'hype svanisce e i messaggi di marketing svaniscono, le sfide rimangono sui fronti della sostenibilità, del rischio-rendimento e della redditività, oltre a mantenere la qualità e la precisione per garantire valore . . In breve, le aziende di intelligenza artificiale open source devono capire come diventare delle vere imprese, che è stato a lungo il più grande ostacolo.
Implicazioni per le startup
Come abbiamo visto con la massiccia proliferazione di ChatGPT, i modelli di base sono il futuro, ma resta da vedere come lo influenzeranno. Sta emergendo una nuova generazione di startup per fare ogni sorta di cose straordinarie, sia che siano costruite come closed source o open source. Nel tentativo di decidere il miglior percorso da seguire, i fondatori possono porsi domande difficili relative a tutti gli aspetti della loro attività. Per esempio:
Financiación
¿De dónde viene el dinero? ¿Tendrán los bolsillos lo suficientemente profundos como para hacerlo solo como una empresa de código cerrado? Si no, ¿qué tipo de pareja se buscará? ¿Se puede mantener el control del proyecto? Si se opta por la ruta del código abierto, ¿cómo se financiará?Equipo
¿El proyecto se presta al aporte y desarrollo de la comunidad, o requiere estrictos controles de calidad? ¿Cómo se podrá atraer al mejor talento para desarrollar el proyecto?Experimentación
¿Cómo podrán las personas experimentar el proyecto para aprender sobre él y probarlo? ¿Se abrirá pruebas y a un marketing extensivo? ¿Estará abierto un entorno de pruebas (sandbox) para los desarrolladores? ¿Se generar entusiasmo a través de redes comunitarias de código abierto?Fidelización
¿Cómo se crea la propia comunidad de usuarios? ¿Qué sucede si se cambia de enfoque, es decir, cuánto se puede perderen reputación y en términos de usuarios si comienza como un proyecto de código abierto y luego se debe ir en la dirección opuesta si un socio con recursos lo exige?Ética y educación
¿Cuáles son sus responsabilidades cuando se trata de cómo se utiliza el proyecto? ¿Qué hacer si se coopta para fines no deseados y dañinos? ¿Hay intervención si aprecia un "comportamiento inapropiado" y, de ser así, en qué medida? ¿Cómo se monitorea el proyecto y transmitirá las políticas a los clientes/usuarios? En resumen, ¿dónde están los límites de seguridad?Questo è solo l'inizio. Ci sono molte più domande che risposte in questo momento.
Determinare il successo futuro
Man mano che le startup si muovono verso la creazione di modelli di base per una particolare nicchia, è importante che riconoscano che saranno necessarie nuove pietre miliari per valutarne la rilevanza e il valore finale. Come ha recentemente notato Ryan Shannon di Radical Ventures:
A differenza di una startup tradizionale, che può semplicemente scrivere codice, spedire un prodotto e ripetere il feedback dei clienti, le aziende Foundation Model devono dedicare più tempo alla creazione e all'addestramento dei propri modelli per portare un prodotto in una posizione in cui sia praticabile e pronto per l'uso. Questo spesso può richiedere diversi anni, milioni di dollari (o... centinaia di milioni di dollari) e diverse iterazioni prima che i prodotti siano abbastanza buoni da consentire alle aziende di addebitare ai clienti il loro utilizzo.
Questo è un compito arduo e potrebbe richiedere un atto di fede da parte di investitori o membri di una comunità più ampia. L'investimento iniziale nei modelli di base è sostanzialmente superiore a quello di cui hanno bisogno altre startup, ma l'adozione back-end potrebbe non avere precedenti. Queste sono tecnologie di trasformazione diverse da qualsiasi cosa vista prima.
Con la giusta quantità di tempo, denaro e talento, i modelli fondamentali, aperti o chiusi, non solo introdurranno il futuro, ma in una certa misura lo controlleranno. I modelli di base guideranno il modo in cui consumiamo le informazioni che modellano le nostre prospettive e decisioni, che avranno un profondo impatto sul modo in cui la società comunica, apprende, comprende e crea.
La posta in gioco è incredibilmente alta. I modelli open source devono trovare un modello di business che funzioni a lungo termine, mentre i modelli chiusi devono affrontare inizialmente le preoccupazioni etiche, con controlli comportamentali e supervisione in atto. Nessuna soluzione perfetta è emersa in questo panorama disordinato e in rapida evoluzione, ma affrontare le grandi domande ed esaminare le nostre responsabilità è essenziale per l'innovazione. Quando consideriamo tutto ciò che è possibile, sia nel bene che nel male, si scoprono salvaguardie e si verifica un vero progresso.
