Da der Wettbewerb im Bereich der generativen KI immer härter wird, verbessert OpenAI seine Modelle zur Textgenerierung und senkt die Preise.
OpenAI angekündigt die Veröffentlichung neuer Versionen von GPT-3.5-turbo und GPT-4, wobei letzteres die neueste textgenerierende KI mit einer Fähigkeit namens Call-Funktion ist. Wie OpenAI in a erklärt Blogeintrag Mit dem Funktionsaufruf können Entwickler Programmierfunktionen für GPT-3.5-turbo und GPT-4 beschreiben und Modelle Code erstellen lassen, um diese Funktionen auszuführen.
Funktionsaufrufe können beispielsweise dabei helfen, Chatbots zu erstellen, die Fragen durch den Aufruf externer Tools beantworten, natürliche Sprache in Datenbankabfragen umwandeln und strukturierte Daten aus Text extrahieren. „Diese Modelle wurden darauf abgestimmt, zu erkennen, wann eine Funktion aufgerufen werden sollte … und darauf zu reagieren JSON das bleibt bei der Signatur der Funktion“, sagt OpenAI. „Funktionsaufrufe ermöglichen es Entwicklern, strukturierte Daten zuverlässiger aus dem Modell zu erhalten.“
Über Funktionsaufrufe hinaus OpenAI präsentiert eine Version von GPT-3.5-turbo mit stark vergrößertem Kontextfenster. Kontextfenster, gemessen in Token oder Rohtextfragmente, bezieht sich auf den Text, den das Modell berücksichtigt, bevor zusätzlicher Text generiert wird. Modelle mit kleinen Kontextfenstern neigen dazu, den Inhalt sogar sehr aktueller Gespräche zu „vergessen“, was dazu führt, dass sie häufig auf problematische Weise vom Thema abweichen.
Der neue GPT-3.5-Turbo bietet die vierfache Kontextlänge (16 Token) des Vanilla GPT-000-Turbo zum doppelten Preis: 3.5 USD pro 0,003 Eingabe-Token (d. h. in das Modell eingegebene Token) und 1000 USD pro 0,004 Ausgabe-Token ( vom Modell generierte Token). OpenAI sagt, dass es etwa 1000 Seiten Text gleichzeitig aufnehmen kann, weniger als die Hunderte von Seiten, die das Flaggschiffmodell des KI-Startups Anthropic verarbeiten kann, zum Vergleich. OpenAI testet eine Version von GPT-20 mit einem Kontextfenster von 4 Token, allerdings nur in einer eingeschränkten Version.
Positiv zu vermerken ist, dass OpenAI den Preis von GPT-3.5-turbo, dem Original, und nicht der Version mit dem erweiterten Kontextfenster, um 25 % senkt. Entwickler können das Modell jetzt für 0.0015 US-Dollar pro 1000 Eingabe-Tokens und 0.002 US-Dollar pro 1000 Ausgabe-Tokens verwenden, was etwa 700 Seiten pro Dollar entspricht.
Der Preis wird ebenfalls reduziert text-embedding-ada-002, eines der beliebtesten OpenAI-Texteinbettungsmodelle. Texteinbettungen messen die Beziehung von Textzeichenfolgen und werden häufig für die Suche (wobei die Ergebnisse nach Relevanz für eine Abfragezeichenfolge geordnet werden) und Empfehlungen (wobei Elemente mit verwandten Textzeichenfolgen empfohlen werden) verwendet.
text-embedding-ada-002 Es kostet jetzt 0.0001 US-Dollar pro 1,000 Token, was einer Reduzierung von 75 % gegenüber dem vorherigen Preis entspricht. Laut OpenAI wurde die Reduzierung durch eine höhere Effizienz seiner Systeme ermöglicht, was für das Startup bei seinen Investitionen natürlich ein wichtiger Schwerpunkt ist hunderte Millionen Dollar in Forschung und Entwicklung und Infrastruktur.
OpenAI hat festgestellt, dass es sich dabei um inkrementelle Aktualisierungen bestehender Modelle und nicht um massive neue Modelle von Grund auf handelt Verfahrensweise nach der Veröffentlichung von GPT-4 Anfang März. Auf einer kürzlich von der Economic Times veranstalteten Konferenz bekräftigte CEO Sam Altman, dass OpenAI noch nicht mit dem Training des GPT-4-Nachfolgers begonnen hat, was darauf hindeutet, dass das Unternehmen vor der Einführung dieses Modells „noch viel zu tun hat“.
