Alors que la concurrence dans l'espace de l'IA générative devient de plus en plus féroce, OpenAI met à niveau ses modèles de génération de texte et baisse les prix.
OpenAI annoncé la sortie de nouvelles versions de GPT-3.5-turbo et GPT-4, cette dernière étant sa dernière IA génératrice de texte, avec une capacité appelée fonction d'appel. Comme l'explique OpenAI dans un article de blog L'appel de fonction permet aux développeurs de décrire les fonctions de programmation pour GPT-3.5-turbo et GPT-4 et de faire en sorte que les modèles créent du code pour exécuter ces fonctions.
Par exemple, les appels de fonction peuvent aider à créer des chatbots qui répondent aux questions en appelant des outils externes, convertissent le langage naturel en requêtes de base de données et extraient des données structurées du texte. "Ces modèles ont été réglés pour détecter quand une fonction doit être appelée... et pour répondre avec JSON qui colle à la signature de la fonction », explique OpenAI. "Les appels de fonction permettent aux développeurs d'obtenir des données structurées du modèle de manière plus fiable."
Au-delà des appels de fonction, OpenAI présente une version de GPT-3.5-turbo avec une fenêtre contextuelle considérablement agrandie. Fenêtre contextuelle, mesurée en tokens ou des fragments de texte brut, fait référence au texte que le modèle considère avant de générer tout texte supplémentaire. Les modèles avec de petites fenêtres contextuelles ont tendance à « oublier » le contenu des conversations, même très récentes, les amenant à sortir du sujet, souvent de manière problématique.
Le nouveau GPT-3.5-turbo offre quatre fois la longueur de contexte (16 000 jetons) du GPT-3.5-turbo vanille à deux fois le prix : 0,003 $ pour 1000 0,004 jetons d'entrée (c'est-à-dire les jetons entrés dans le modèle) et 1000 $ pour 20 4 jetons de sortie ( jetons générés par le modèle). OpenAI dit qu'il peut ingérer environ 32 pages de texte à la fois, en deçà des centaines de pages que le modèle phare de la startup Anthropic peut traiter, à titre de comparaison. OpenAI teste une version de GPT-000 avec une fenêtre contextuelle de XNUMX XNUMX jetons, mais uniquement dans une version limitée.
Du côté positif, OpenAI dit qu'il réduit le prix de GPT-3.5-turbo, l'original, et non la version avec la fenêtre contextuelle étendue, de 25 %. Les développeurs peuvent désormais utiliser le modèle pour 0.0015 USD pour 1000 0.002 jetons d'entrée et 1000 USD pour 700 XNUMX jetons de sortie, ce qui équivaut à environ XNUMX pages par dollar.
Le prix est également réduit pour intégration de texte-ada-002, l'un des modèles d'intégration de texte OpenAI les plus populaires. Les intégrations de texte mesurent la relation entre les chaînes de texte et sont couramment utilisées pour la recherche (où les résultats sont classés par pertinence par rapport à une chaîne de requête) et les recommandations (où les éléments avec des chaînes de texte associées sont recommandés).
text-embedding-ada-002 il coûte désormais 0.0001 $ pour 1,000 75 jetons, soit une réduction de XNUMX % par rapport au prix précédent. OpenAI affirme que la réduction a été rendue possible par une plus grande efficacité de ses systèmes, un domaine clé pour la startup, bien sûr, alors qu'elle investit des centaines de millions dollars en R&D et en infrastructure.
OpenAI a noté que les mises à jour incrémentielles des modèles existants, et non de nouveaux modèles massifs à partir de zéro, sont leur modus operandi suite à la sortie de GPT-4 début mars. Lors d'une récente conférence organisée par l'Economic Times, le PDG Sam Altman a réaffirmé qu'OpenAI n'avait pas commencé à former le successeur de GPT-4, indiquant que l'entreprise "a beaucoup de travail à faire" avant de lancer ce modèle.
