OpenAI tõi äsja välja uue mudeli GPT-4o Mini. See mudel on osa GPT-4o seeriast ja pakub varasemate iteratsioonidega võrreldes eeliseid, sealhulgas kulutõhusust ja paremat jõudlust.
GPT-4o Mini põhiomadused
- Multimodaalsed võimalused
GPT-4o Mini on tõeliselt multimodaalne süsteem, erinevalt varasematest mudelitest, millel olid teksti ja nägemise jaoks eraldi komponendid. See toetab nii teksti- kui ka nägemissisendit ning tulevikus on plaanis lisada video- ja helisisendid ja -väljundid. - Kulutõhusus
GPT-4o Mini hinnakujundus on loodud olema konkurentsivõimeline:
– Sisendtokenid: 0,15 dollarit miljoni märgi kohta
– Väljundtokenid: 0,60 dollarit miljoni märgi kohta
Võrreldes vanemate mudelitega, nagu Davinci-003, on see 99% vähem. - Suur kontekstiaken
GPT-4o Minil on 128 000 märgiga kontekstiaken, mis muudab selle sobivaks rakenduste jaoks, mis nõuavad ulatuslikku konteksti säilitamist. - Parem jõudlus
OpenAI väidab, et GPT-4o Mini ületab GPT-4 taset mitmes peamises näitajas:
* MLU (multimodaalne keele mõistmine): 82%
* Matemaatika arutlus- ja kodeerimisülesanded: suurepärane jõudlus võrreldes väiksemate mudelitega - Täiustatud tokeniseerija
Täiustatud tokenisaator suudab tõhusamalt käsitleda mitteingliskeelset teksti, tagades parema jõudluse erinevates keeltes. - Funktsioonide väljakutsumine
GPT-4o Mini oskab funktsioone välja kutsuda, võimaldades sujuvat API-integratsiooni ja järjepidevaid vastuseid JSON-vormingus.
Võrdlus teiste mudelitega
Võrdleme GPT-4o Minit teiste populaarsete mudelitega, nagu Google’i Gemini 1.5 Flash ja OpenAI GPT-3.5 Turbo.
| Feature | GPT-40 Mini | Gemini 1.5 Flash | GPT-3.5 Turbo |
|---|
| Input Cost | $0.15 per million | $0.35 per million | $0.30 per million |
| Output Cost | $0.60 per million | $1.00 per million | $1.20 per million |
| Context Window | 128,000 tokens | 128,000 tokens | 8,000 tokens |
| Multimodal Support | Text, Vision | Text, Vision, Audio | Text only |
| Performance Benchmarks | Higher than GPT-4 | Comparable to GPT-4 | Lower than GPT-4 |
Kasutatavus
Tõenäoliselt peavad arendajad GPT-4o Mini kasulikuks mitmel põhjusel:
Vähendatud kulud võimaldavad hallata suuri andmemahtusid ilma suurte kulutusteta.
Multimodaalsed võimalused ja täiustatud jõudlus tagavad, et arendajad saavad luua keerukamaid ja usaldusväärsemaid rakendusi.
Täiustatud funktsioonide kutsumise võimalused hõlbustavad sujuvat API integreerimist, mis lihtsustab arendusprotsessi.
Saab luua väikese latentsusega virtuaalseid agente.
Konteksti säilitamine suures mahus keeruliste ülesannete jaoks.
Tagasiside
Esmane tagasiside arendajate kogukonnalt väljendab mõnetist pessimismi.
Kasutaja seungoh.jung tõi välja et lihtsate matemaatiliste võrdluste mudel eksib. Samuti on mudel “kangekaelne” ehk ei tunnista vigu.
Kasutaja anitaa toob välja järgmist.
- Andmete ekstraheerimine: GPT-4o Mini toimib halvemini kui GPT-3.5 Turbo ja Claude 3 Haiku. Ükski mudel ei ole selle ülesande jaoks piisavalt kvaliteetne (ainult 60-70% täpsus)
- Klassifikatsioon: GPT-4o kõrgeim täpsus (88,89%), mistõttu on see parim valik valepositiivsete tulemuste vältimiseks. Samaväärne F1 skoor GPT-4o Mini ja GPT-3.5 Turbo vahel
- Verbaalne põhjendus: GPT-4o Mini ületab teisi mudeleid. See ei lähe hästi numbriliste küsimuste korral, kuid toimib hästi suhte-/keelespetsiifilistes küsimustes.
Lihtsamad ülesanded suurte tekstimahtudega
Isegi lihtsamal mudelil, nagu GPT-4o Mini, on palju rakendusi, mis saavad ära kasutada selle võimet käsitleda suuri tekstimahtusid.
Dokumentide kokkuvõte
Pikad artiklid, aruanded ja dokumendid kokkuvõtlikeks kokkuvõteteks.
Meilide filtreerimine ja sortimine
Suure hulga e-kirjade kategoriseerimine ja tähtsuse järjekorda seadmine.
Korduma kippuvad küsimused
Korduma kippuvate küsimuste ja vastuste loend suurtest tekstiallikatest, nagu juhendid või veebisaidid.
Sisu märgistamine ja kategoriseerimine
Märgistada ja kategoriseerida suuri tekstikogumeid.
Andmete ekstraheerimine
Ssuurtest dokumentidest välja põhiteave, nagu nimed, kuupäevad ja aadressid.
Teksti puhastamine
Põhilised tekstipuhastustoimingud, nagu korduste eemaldamine, kirjavigade parandamine.
Lihtsam sentimendianalüüs
Analüüs ja kokkuvõtted suurte tekstiandmete kogumite baasil, näiteks klientide arvustuste või sotsiaalmeedia postituste kohta.
Märksõna ekstraheerimine
Suurtest tekstimahtudest võtmeterminite ja fraaside tuvastamine ja eraldamine.
Lihtsamate aruannete koostamine
Struktureeritud andmesisendist lihtsamate aruannete loomine.
Rutiinne andmesisestus
Automatiseeritud andmesisestustoimingud , kus aluseks on suured tekstid ja väljundiks struktureeritud vormid.
Isikupärastatud meilivastused
Lihtsamad isikupärastatud meilivastuseid eelmiste vestluste konteksti põhjal.
Dokumendi vormindamine
Suurte, tekstimahtukate dokumentide vormindamine ja struktureerimine, et need vastaksid konkreetsetele stiilijuhistele.
Lihtsamad tõlkeülesanded
Tõlgige suurtes kogustes teksti keelte vahel mittekriitilistel eesmärkidel.
Koosolekuprotokolli koostamine
Transkriptsioonide või märkmete põhjal koosolekuprotokollide põhikokkuvõtted.
Tekstide võrdlus
Suurte tekstidokumentide erinevuste tuvastamine.
Viited:
https://openai.com/index/gpt-4o-mini-advancing-cost-efficient-intelligence
https://community.openai.com/t/gpt-4o-mini-is-dummber-than-you-can-think/871987/5