Az OpenAI legújabb modellje sokkal drágább, mint gondoltuk
Az OpenAI tavaly decemberben nagy csinnadrattával mutatta be az o3 elnevezésű, „következtető” mesterséges intelligencia modelljét. A modell képességeinek demonstrálására az ARC-AGI teljesítménytesztet használták, amely kifejezetten a nagy teljesítményű AI rendszerek tesztelésére készült. Most azonban a teszt üzemeltetői felülvizsgálták korábbi eredményeiket, és a modell már korántsem tűnik olyan költséghatékonynak, mint kezdetben.
Az Arc Prize Foundation, amely az ARC-AGI tesztet fenntartja és kezeli, múlt héten frissítette az o3 modell becsült számítási költségeit. Eredetileg úgy számoltak, hogy a legjobban teljesítő o3 high konfiguráció körülbelül 3000 dollárba kerül egyetlen ARC-AGI probléma megoldásakor. A frissített adatok szerint azonban a költség ennél sokkal magasabb – akár 30.000 dollár is lehet feladatonként.
Hirdetés:
Elképesztő számítási igény, elképesztő áron
A jelentős árkülönbség azért figyelemreméltó, mert rávilágít, mennyire költségesek lehetnek a legfejlettebb AI-modellek bizonyos feladatok elvégzésekor, legalábbis a korai szakaszban. Az OpenAI egyelőre nem árazta be az o3 modellt – sőt, még el sem érhetővé tette azt a nyilvánosság számára. Az Arc Prize Foundation azonban úgy véli, hogy az OpenAI o1-pro modelljének árazása megfelelő viszonyítási alapként szolgálhat.
„Úgy gondoljuk, hogy az o1-pro jobban tükrözi az o3 valós költségét a felhasznált futásidei számítási mennyiség miatt,” nyilatkozta Mike Knoop, az Arc Prize Foundation egyik társalapítója. „De ez még mindig csak egy közelítés, és az o3-at továbbra is előzetes jelzéssel látjuk el a ranglistánkon, ami tükrözi a bizonytalanságot a hivatalos árazás bejelentéséig.”
Véleményem szerint ezek a költségek elképesztőek, de nem teljesen váratlanok. Az AI fejlesztés ára exponenciálisan növekszik, ahogy egyre komplexebb modelleket hoznak létre a kutatók. Különösen igaz ez az olyan „következtető” rendszerekre, amelyek nem csak mintafelismerésre, hanem logikai következtetésekre is képesek.
Hatalmas erőforrásigény, kérdéses hatékonyság
A magas ár nem lenne meglepő, figyelembe véve a modell hatalmas számítási erőforrásigényét. Az Arc Prize Foundation adatai szerint az o3 high 172-szer több számítási kapacitást használ, mint az o3 alacsony erőforrásigényű változata, az o3 low.
Eközben már jó ideje keringenek pletykák az OpenAI drága csomagjairól, amelyeket vállalati ügyfeleknek szánnak. Március elején a The Information arról számolt be, hogy a cég akár havi 20.000 dollárt is felszámíthat specializált AI „ügynökökért”, például egy szoftverfejlesztő asszisztensért.
Egyesek azzal érvelhetnek, hogy még az OpenAI legdrágább modelljei is jóval kevesebbe kerülnek, mint egy tipikus emberi munkavállaló vagy vállalkozó alkalmazása. Azonban, ahogy Toby Ord AI-kutató rámutatott egy X-en közzétett bejegyzésben, a modellek nem feltétlenül működnek hatékonyan. Az o3 high például 1024 próbálkozást igényelt minden egyes ARC-AGI feladatnál a legjobb pontszám eléréséhez.
Az ilyen magas költségek nagy kihívást jelenthetnek az AI technológia széles körű elterjedése szempontjából. Különösen igaz ez a kisebb vállalkozásokra és szervezetekre, amelyek számára a több tízezer dolláros havidíj megfizethetetlennek tűnhet. Ugyanakkor az iparág gyors fejlődése miatt várható, hogy ezek a költségek idővel csökkenni fognak, ahogy a technológia érettebbé válik és hatékonyabb megoldások születnek.
A borító képet FLUX.1-dev képgenerátor készítette az alábbi prompt alapján: A stressed businessman looking at a high-tech computer screen displaying complex AI calculations and a large price tag, with a worried expression, professional office setting, high-quality detailed lighting.
