OpenAI käivitab API ChatGPT jaoks ja spetsiaalse võimsuse ettevõtetele

San Franciscos asuva idufirma OpenAI välja töötatud tasuta teksti genereeriva AI ChatGPT kutsumine on edu alahinnang.

Detsembris oli ChatGPT-l a hinnang rohkem kui 100 miljonit igakuist aktiivset kasutajat. See äratas peavoolumeedia tähelepanu ja tekitas sotsiaalmeedias lugematuid meeme. Seda on kasutatud kirjutama sadu e-raamatuid Amazon Kindle'i poes. Ja talle omistatakse vähemalt kaasautor teaduslik artikkel.

Kuid OpenAI, mis on äri, ehkki piiratud kasumiga, pidi ChatGPT-d kuidagi raha teenima, et investorid ei läheks närvi. See astus selle poole sammu, kuna veebruaris käivitati tasuline teenus ChatGPT Plus. Rakendusliidese kasutuselevõtt, mis võimaldab igal ettevõttel lisada ChatGPT-tehnoloogia oma rakendustesse, veebisaitidele, toodetesse ja teenustesse, on muutunud palju suuremaks.

API oli alati plaan. See on OpenAI presidendi ja presidendi (ja ka ühe kaasasutajate) Greg Brockmani sõnul.

"Nende API-de teatud kvaliteeditaseme saavutamiseks kulub meil veidi aega, " ütles Brockman. "Ma arvan, et see on lihtsalt nõudluse ja ulatuse rahuldamine."

Brockman ütleb, et ChatGPT API-t toidab sama AI-mudel, mis on OpenAI populaarse ChatGPT taga, nimega "gpt-3.5-turbo". GPT-3.5 on võimsaim teksti genereerimise mudel, mida OpenAI oma API-de komplekti kaudu täna pakub; Hüüdnimi "turbo" viitab a rohkem optimeeritud, paremini reageeriv mudel GPT-3.5, mida OpenAI on vaikselt ChatGPT jaoks testinud.

Brockman ütleb, et API-liides, mille hind on 0.002 dollarit 1000 märgi või umbes 750 sõna kohta, võib pakkuda mitmesuguseid kogemusi, sealhulgas mitte-vestlusrakendusi. Snap, Quizlet, Instacart ja Shopify on varasemate kasutajate hulgas.

Gpt-3.5-turbo arendamise esialgne motivatsioon võis olla ChatGPT tohutute arvutuskulude vähendamine. OpenAI tegevjuht Sam Altman nimetas kunagi ChatGPT kulusid "mõistustavaks". neid hinnates mõne senti vestluse kohta arvutuskuludes. (Enam kui miljoni kasutajaga lisandub see arvatavasti kiiresti.)

Kuid Brockman ütleb, et gpt-3.5-turbot on täiustatud muul viisil.

„Kui loote tehisintellektil töötavat juhendajat, ei taha te kunagi, et juhendaja annaks õpilasele lihtsalt vastuse. Tahad, et ma seda alati selgitaksin ja aitaksin neil õppida – see on näide sellisest süsteemist, mida peaksite saama [API-ga] ehitada, ”ütles Brockman. "Me arvame, et see on midagi, mis muudab API palju kasulikumaks ja juurdepääsetavamaks."

ChatGPT API on aluseks My AI-le, Snapi hiljuti välja kuulutatud vestlusbotile Snapchat+ tellijatele ja Quizleti uuele virtuaalse juhendaja funktsioonile Q-Chat. Shopify kasutas ChatGPT API-d isikupärastatud ostlemissoovitusabilise loomiseks, samas kui Instacart kasutas seda, et luua Ask Instacart – eelseisev tööriist, mis võimaldab Instacarti klientidel küsida toidukaupade kohta ja saada ettevõtte jaemüügipoest tooteandmete põhjal ostetavaid vastuseid. partnerid.

"Toidukaupade ostlemine võib olla vaimselt nõudlik, kuna mängus on palju tegureid, nagu eelarve, tervis ja toitumine, isiklikud maitsed, hooajalisus, toiduvalmistamise oskused, ettevalmistusaeg ja retseptide inspiratsioon," ütles Instacarti peaarhitekt JJ Zhuang. „Mis siis, kui tehisintellekt võtaks selle vaimse koormuse enda peale ja saaksime aidata leibkonnajuhte, kes vastutavad tavaliselt toidupoodide ostmise, söögikorra planeerimise ja toidu lauale panemise eest, ning tegelikult toiduoste teha. Kas nad on tõesti lõbusad? Instacarti AI-süsteem, mis on integreeritud OpenAI ChatGPT-ga, võimaldab meil täpselt seda teha ja meil on hea meel, et saame hakata katsetama Instacarti rakenduses võimalikku.

Pildikrediidid: Instacart

Need, kes on ChatGPT saagat tähelepanelikult jälginud, võivad aga küsida, kas see on avaldamiseks valmis, ja õigustatult.

Alguses said kasutajad paluda ChatGPT-l vastata kallutatud küsimustele rassistlik ja seksistlik, peegeldab andmeid, mille kohta ChatGPT-d algselt koolitati. (ChatGPT koolituse andmed hõlmavad suurt hulka Interneti-sisu, nimelt e-raamatuid, Redditi postitusi ja Wikipedia artikleid.) ChatGPT leiutab ka fakte, paljastamata, et ta seda teeb – AI-s tuntud nähtus hallutsinatsioonid.

ChatGPT ja sarnased süsteemid on samuti vastuvõtlikud viipapõhistele rünnakutele või pahatahtlikele vastase viipadele, mis sunnivad neid täitma ülesandeid, mis ei kuulunud nende algsete eesmärkide hulka. Terved kogukonnad Redditis on loodud viise, kuidas ChatGPT jailbreakida ja OpenAI rakendatud kaitsest mööda minna. Ühes vähem solvavas näites suutis käivitusettevõtte Scale AI töötaja ChatGPT teha. avalikustama teavet selle sisemise tehnilise toimimise kohta.

Brändid ei tahaks kindlasti tähelepanu keskpunkti sattuda. Brockman on veendunud, et nad seda ei tee. Sest? Üks põhjus on tema sõnul tagaosa jätkuv täiustamine, mõnel juhul Kenya lepinguliste töötajate arvelt. Kuid Brockman rõhutas uut (ja kindlasti vähem vastuolulist) lähenemisviisi, mida OpenAI nimetab vestluse märgistuskeeleks või ChatML-iks. ChatML saadab teksti ChatGPT API-le sõnumivoona koos metaandmetega. See on vastupidine tavalisele ChatGPT-le, mis kasutab toorteksti, mis on esitatud žetoonide seeriana. (Sõna "fantastiline" jaguneks näiteks märkideks "fan", "tas" ja "tico".)

Näiteks küsimusele "Millised on huvitavad ideed minu 30. sünnipäevaks peoks?" arendaja saab lisada selle sõnumi täiendava sõnumiga, näiteks "Te olete lõbus vestlusrobot, mis on loodud kasutajate abistamiseks nende esitatud küsimustega". Peate vastama ausalt ja lõbusalt!” või "Olete bot", enne kui ChatGPT API seda töötleb. Brockmani sõnul aitavad need juhised ChatGPT mudeli vastuseid paremini kohandada ja filtreerida.

"Me liigume kõrgema taseme API-le. Kui teil on süsteemi sisendi esitamiseks struktureeritum viis, siis ütlete "see on arendajalt" või "see on kasutajalt". Pean lootma, et arendajana suudan olla jõulisem. [Kasutades ChatML-i] seda tüüpi kiirete rünnakute vastu, ”ütles Brockman.

Teine muudatus, mis (loodetavasti) hoiab ära soovimatu ChatGPT käitumise, on mudelite sagedasemad värskendused. Gpt-3.5-turbo väljalaskmisega värskendatakse arendajaid vaikimisi automaatselt uusimale stabiilsele OpenAI mudelile, ütleb Brockman, alustades gpt-3.5-turbo-0301-st (välja antud täna). Kuid arendajatel on soovi korral võimalus jääda vanema mudeli juurde, mis võib selle eelise pisut tühistada.

Brockman märgib, et olenemata sellest, kas nad otsustavad uuemale mudelile üle minna või mitte, on mõnel kliendil, peamiselt suurettevõttel, kellel on vastavalt suur eelarve, sügavam kontroll süsteemi jõudluse üle spetsiaalsete võimsusplaanide kasutuselevõtuga. Täna avaldatud OpenAI spetsiaalsed võimsusplaanid, mida kirjeldati esmakordselt selle kuu alguses, võimaldavad klientidel maksta OpenAI mudeli (nt gpt-3.5-Turbo) käitamiseks arvutamise infrastruktuuri eraldamise eest. (Muide, tagaosas on Azure).

Lisaks eksemplari koormuse täielikule kontrollile (tavaliselt tehakse OpenAI API-kõnesid jagatud arvutusressurssidel) annab spetsiaalne võimsus klientidele võimaluse lubada selliseid funktsioone nagu pikemad kontekstipiirangud. Konteksti piirid viitavad tekstile, mida mudel arvestab enne lisateksti genereerimist; Pikemad kontekstipiirid võimaldavad mudelil sisuliselt rohkem teksti "mäletada". Kuigi kõrgemad kontekstipiirangud ei pruugi lahendada kõiki eelarvamuste ja toksilisuse probleeme, võivad need mudelid, nagu gpt-3.5-turbo, viia hallutsineerida vähem.

Brockmani sõnul võivad pühendunud võimsusega kliendid oodata kuni 3.5 16 kontekstiaknaga gpt-XNUMX-turbo mudeleid, mis tähendab, et nad saavad aktsepteerida neli korda rohkem märke kui tavaline ChatGPT mudel. See võib võimaldada kellelgi kleepida maksukoodi lehti ja lehti ning saada mudelilt mõistlikke vastuseid, näiteks, mis pole tänapäeval võimalik.

Brockman viitas üldisele väljalasele tulevikus, kuid mitte niipea.

"Kontekstiaknad hakkavad suurenema ja üks põhjus, miks me oleme praegu ainult pühendunud võimsuskliendid, on see, et meie poolel on palju jõudluse kompromisse," ütles Brockman. "Lõpuks võime pakkuda samast asjast tellitavat versiooni."

Arvestades OpenAI kasvavat survet pärast Microsofti mitme miljardi dollari suurust investeeringut kasumit teenida, poleks see kuigi üllatav.