Struktureeritud väljund on võimalik uusimate mudelitega gpt-4o-2024-08-06 ja gpt-4o-mini-2024-07-18.
DevDay 2023 raames tutvustas OpenAI JSON-režiimi—tööriist arendajatele, kes soovivad ehitada meie mudelitega usaldusväärseid rakendusi. Kuigi JSON-režiim parandab mudeli usaldusväärsust kehtivate JSON-väljundite genereerimisel, ei taga see, et mudeli vastus vastab konkreetsele skeemile ehk struktuurile.
6. augustil 2024 tutvustas OpenAI API-s uut funktsiooni nimega “Struktureeritud Väljundid,” mis on loodud selleks, et tagada mudeli genereeritud väljundite täpne vastavus arendajate poolt määratud JSON-skeemidele.
Struktureeritud andmete genereerimine struktureerimata sisenditest on tänapäeva rakendustes üks tehisintellekti põhikasutusviise. Arendajad kasutavad OpenAI API-d, et luua võimsaid assistente, millel on võimekus hankida andmeid ja vastata küsimustele funktsioonikutsumise teel, eraldada struktureeritud andmeid andmesisestuseks ning luua mitmeetapilisi agentlikke töövooge, mis võimaldavad LLM-idel tegutseda. Arendajad on juba pikka aega töötanud LLM-ide piirangute ületamiseks selles valdkonnas, kasutades avatud lähtekoodiga tööriistu, viiteid ja korduvaid päringuid, et tagada mudeliväljundite vastavus nende süsteemidega töötamiseks vajalikele formaatidele. ‘Struktureeritud väljundid’ lahendavad selle probleemi, piirates OpenAI mudeleid vastama arendajate poolt määratud skeemidele ja treenides mudeleid paremini mõistma keerulisi skeeme.
OpenAI hindamistes keeruliste JSON-skeemide järgimise osas saavutab meie uus mudel gpt-4o-2024-08-06 koos ‘Struktureeritud väljunditega’ täiusliku 100% tulemuse. Võrdluseks, gpt-4-0613 skoorib alla 40%.
Joonis 1. Struktureeritud Väljunditega saavutab gpt-4o-2024-08-06 meie hindamistes 100% usaldusväärsuse, vastates täielikult väljundskeemidele. Source: OpenAI
Näidisjuhtumid
- Kasutajaliideste dünaamiline genereerimine vastavalt kasutaja kavatsusele. Näiteks saavad arendajad kasutada Struktureeritud Väljundeid koodi või kasutajaliidese genereerivate rakenduste loomiseks.
- Lõpliku vastuse eraldamine toetavast põhjendusest või täiendavast kommentaarist. Kasulik on anda mudelile eraldi väli mõttekäigu jaoks, et parandada vastuse lõplikku kvaliteeti.
- Struktureeritud andmete eraldamine struktureerimata andmetest. Näiteks võib mudelit juhendada eraldama koosoleku märkmetest selliseid detaile nagu ülesanded, tähtajad ja uued ülesanded.
Näide: API sisend, Source: OpenAI
{
"model": "gpt-4o-2024-08-06",
"messages": [
{
"role": "system",
"content": "You are a helpful assistant. The current date is August 6, 2024. You help users query for the data they are looking for by calling the query function."
},
{
"role": "user",
"content": "look up all my orders in may of last year that were fulfilled but not delivered on time"
}
...
"columns": {
"type": "array",
"items": {
"type": "string",
"enum": [
"id",
"status",
"expected_delivery_date",
"delivered_at",
"shipped_at",
"ordered_at",
"canceled_at"
]
}
}
...Näide: API äljund, Source: OpenAI
{
"table_name": "orders",
"columns": ["id", "status", "expected_delivery_date", "delivered_at"],
"conditions": [
{
"column": "status",
"operator": "=",
"value": "fulfilled"
},
{
"column": "ordered_at",
"operator": ">=",
"value": "2023-05-01"
},
{
"column": "ordered_at",
"operator": "<",
"value": "2023-06-01"
},
{
"column": "delivered_at",
"operator": ">",
"value": {
"column_name": "expected_delivery_date"
}
}
],Näited dünaamilistest kasutajaliidestest, mis kujunevad vastavalt kasutaja profiilile, eelistustele.
Landing page for gardener. Source: OpenAI
Sign-up screen for an app. Source: OpenAI
Stock price widget. Source: OpenAI
GPT-4o mudeli uuendus
Kolmapäeval, 2. oktoobril, värskendatakse GPT-4o vaikemudelit uusimale GPT-4o mudelile, gpt-4o-2024-08-06.
Uusim GPT-4o mudel on 50% odavam sisendmärkide ja 33% odavam väljundmärkide puhul ning toetab struktureeritud väljundeid. Uue versiooniga tutvumiseks määrake API-s mudeliparameetriks gpt-4o-2024-08-06.
Kui jätkate mudeliparameetri gpt-4o kasutamist, värskendatakse see automaatselt 2. oktoobril. Vanema versiooni kasutamiseks määrake mudeliparameetriks gpt-4o-2024-05-13.
Viited
https://openai.com/index/introducing-structured-outputs-in-the-api/