GPT-3.5 je skupina jazykových modelů od OpenAI.
Co je GPT-3.5
GPT-3.5 je skupina jazykových modelů. V Clicking Goat je najdete jako gpt-3.5-turbo. Tato volba Označuje nejnovější produkční verzi GPT-3.5. V API jsou dále dostupné konkrétní modely např. gpt-3.5-turbo-0301, což v administraci Clicking Goat nerozlišujeme.
Model gpt-3.5-turbo patří do skupiny chat-completion na rozdíl od text-davinci, který patří do text-completion modelů. Na gpt-3.5-turbo navazují modely GPT-4, které by měly být lepší, rozhodně jsou však dražší.
K čemu je dobrý gpt-3.5-turbo
Model gpt-3.5-turbo umí zpracovat komplexní prompty. Například:
- generování popisu zboží (stránky) z parametrů
- přepis textu jinými slovy
- překlad do cizího jazyka
- …další komplexní úlohy.
Osobně se mi gpt-3.5-turbo jeví více “ukecaný”, než text-davinci. Kreativní úlohy plní lépe, texty se mi jeví více čtivé. Špatné zkušenosti mám s rutinními úlohami. Výstupy při hromadném zpracování dat Mergado Editoru pomocí Clicking Goat např. pro clusterizaci klíčových slov nebyly v potřebné kvalitě a nepodařilo se mi vymyslet prompt takový, abych byl s výsledkem spokojen. Tento typ úlohy zvládal lépe text-davinci.
Kolik stojí gpt-3.5-turbo
Cena se skládá z položek completion a prompt. Obsahuje tedy poplatek za GPT-3 + poplatek za model Davinci. Tokeny se účtují jak na výstupu, tak výstupu. Ač existuje řada “zaručeně přesných” výpočtů konkrétních cen, v praxi lze využít tokenizer, nastavit limity útrat a zpracování vyzkoušet v praxi. Dostatečně přesný odhad ceny pro hromadné zpracování dat z feedů jsem jinak stanovit nedokázal. V praxi však na svých datasetech brzy dostanete o ceně rámcovou představu. GPT-3.5 je levnější než modely GPT-4 a dražší, než text-completion modely.