Az AI-ipar az elmúlt években egyetlen kérdésre összpontosított: melyik modell a legokosabb? Ez persze még mindig számít, de egy új prioritás kezd előtérbe kerülni – mégpedig az, hogy egy elköltött dollárért mennyi hasznos teljesítményt lehet kinyerni a mesterséges intelligenciából.
Elég jó már nem elég kevés
Napjainkra rengeteg AI-modell vált alkalmassá a legtöbb üzleti feladat elvégzésére. Amint ez megtörténik, a felhasználók és vállalatok szempontjai is átrendeződnek: egyre kevésbé foglalkoztatja őket a csúcsteljesítmény hajszolása, és egyre inkább a megbízható munkavégzés ára kerül a fókuszba.
Jó példa erre az Amazon Alexa+ rendszerének belső átalakítása. A kiszivárgott dokumentumok szerint a vállalat tudatosan irányít több kérést a saját, kevésbé fejlett AI-modellje felé, ezzel mérsékelve az Anthropic drágább, bár erősebb modelljeinek igénybevételét. A cél nem az volt, hogy minden esetben a legfejlettebb megoldást alkalmazzák, hanem az, hogy a költségesebb intelligenciát csak akkor hívják segítségül, amikor a feladat valóban indokolja.
Hatékonyság az újabb versenyterep
Kylan Gibbs, az Inworld nevű hangalapú AI-megoldásokat fejlesztő vállalat vezérigazgatója szerint ez egy valós és erőteljes iparági tendencia. Elmondása alapján egyre több modell teljesíti megfelelően az elvárásokat, és ilyen körülmények között a hatékonyság válik a legfontosabb szemponttá. Az Inworld erre reagálva külön kutatócsapatokat állított fel, amelyek kifejezetten a modellek olcsóbbá és gyorsabbá tételén dolgoznak – nem csupán azok fejlesztésén.
Hogyan mérhető az intelligencia ára?
Arra a kérdésre, hogy melyik AI-modell nyújtja a legjobb teljesítményt egy dollárra vetítve, nehezebb válaszolni, mint a puszta képességek összehasonlítása esetén. Az Arena AI AI-képességi vezetője, Peter Gostev négy szempontot javasol figyelembe venni:
- Milyen megbízható a modell? Valódi feladatokat mennyire képes következetesen és helyesen elvégezni?
- Mennyibe kerül a használata? Érdemes összevetni a bemeneti és kimeneti tokenek árát, hiszen egyes szolgáltatók a nagyobb munkák esetén magasabb díjat számítanak fel.
- Mennyit tud újrafelhasználni? A már feldolgozott információk újbóli alkalmazása jelentősen csökkentheti a költségeket.
- Mekkora az igényelt erőfeszítés? Egy olcsónak tűnő modell végső soron drágábbnak bizonyulhat, ha többszöri próbálkozást vagy extra lépéseket igényel a feladat teljesítéséhez.
Gostev egyelőre nem vállalkozott arra, hogy egyértelmű sorrendet állítson fel a modellek között ezek alapján – részben azért, mert ez az irányváltás még csak most bontakozik ki.
Ki nyeri a piacot?
Egyre világosabbá válik azonban az összefüggés: a legokosabb modell talán még sokáig az újságcímlapokra kerül majd, de a piacot az a megoldás fogja meghódítani, amelyik a legtöbb hasznos munkát képes elvégezni a legkisebb ráfordítással.
Forrás: www.businessinsider.com


