Man mano che la concorrenza nello spazio dell'IA generativa diventa più agguerrita, OpenAI sta aggiornando i suoi modelli di generazione di testo e abbassando i prezzi.
OpenAI ha annunciato il rilascio di nuove versioni di GPT-3.5-turbo e GPT-4, quest'ultima essendo la sua ultima AI generatrice di testo, con un'abilità chiamata funzione di chiamata. Come spiega OpenAI in a post sul blog la chiamata di funzione consente agli sviluppatori di descrivere le funzioni di programmazione per GPT-3.5-turbo e GPT-4 e fare in modo che i modelli creino codice per eseguire tali funzioni.
Ad esempio, le chiamate di funzione possono aiutare a creare chatbot che rispondono alle domande chiamando strumenti esterni, convertono il linguaggio naturale in query di database ed estraggono dati strutturati dal testo. “Questi modelli sono stati messi a punto per rilevare quando una funzione deve essere chiamata... e per rispondere JSON che si attacca alla firma della funzione", afferma OpenAI. "Le chiamate di funzione consentono agli sviluppatori di ottenere dati strutturati dal modello in modo più affidabile."
Oltre le chiamate di funzione, OpenAI presenta una versione di GPT-3.5-turbo con una finestra di contesto notevolmente ingrandita. Finestra di contesto, misurata in token o frammenti di testo grezzo, si riferisce al testo che il modello considera prima di generare qualsiasi testo aggiuntivo. I modelli con piccole finestre di contesto tendono a "dimenticare" il contenuto di conversazioni anche molto recenti, portandoli ad andare fuori tema, spesso in modi problematici.
Il nuovo GPT-3.5-turbo offre quattro volte la lunghezza del contesto (16 token) di vanilla GPT-000-turbo al doppio del prezzo: $ 3.5 per 0,003 token di input (ovvero token inseriti nel modello) e $ 1000 per 0,004 token di output ( token generati dal modello). OpenAI afferma di poter ingerire circa 1000 pagine di testo alla volta, meno delle centinaia di pagine che il modello di punta della startup AI Anthropic può elaborare, per fare un confronto. OpenAI sta testando una versione di GPT-20 con una finestra di contesto di 4 token, ma solo in una versione limitata.
Tra i lati positivi, OpenAI afferma che sta riducendo del 3.5% il prezzo di GPT-25-turbo, l'originale, non la versione con la finestra contestuale estesa. Gli sviluppatori possono ora utilizzare il modello per $ 0.0015 per 1000 token di input e $ 0.002 per 1000 token di output, che equivalgono a circa 700 pagine per dollaro.
Anche il prezzo viene ridotto per incorporamento del testo-ada-002, uno dei modelli di incorporamento di testo OpenAI più popolari. Gli incorporamenti di testo misurano la relazione delle stringhe di testo e sono comunemente usati per la ricerca (dove i risultati sono classificati in base alla pertinenza rispetto a una stringa di query) e per i suggerimenti (dove sono consigliati elementi con stringhe di testo correlate).
incorporamento del testo-ada-002 ora costa $ 0.0001 per 1,000 token, una riduzione del 75% rispetto al prezzo precedente. OpenAI afferma che la riduzione è stata resa possibile da maggiori efficienze nei suoi sistemi, un'area chiave di attenzione per la startup, certo, poiché investe centinaia di milioni dollari in ricerca e sviluppo e infrastrutture.
OpenAI ha notato che sono loro gli aggiornamenti incrementali ai modelli esistenti, non nuovi massicci modelli da zero modus operandi dopo il rilascio di GPT-4 all'inizio di marzo. In una recente conferenza ospitata dall'Economic Times, il CEO Sam Altman ha ribadito che OpenAI non ha iniziato ad addestrare il successore di GPT-4, indicando che la società "ha molto lavoro da fare" prima di avviare quel modello.
