Az Anthropic nyilvánosságra hozta, hogy Kína vezető mesterséges intelligencia vállalatai – köztük az Alibaba, a Moonshot AI, a DeepSeek, a Zhipu és a Xiaomi – összesen közel 190 millió úgynevezett desztillációs támadást hajtottak végre a Claude AI rendszer ellen május és július között.
Mi az a desztillációs támadás?
A desztillációs támadás lényege, hogy egy fejlettebb mesterséges intelligencia modell kimeneteit felhasználják egy kevésbé fejlett rendszer képességeinek javítására és betanítására. Az érintett kínai vállalatok ezt a módszert alkalmazták annak érdekében, hogy saját modelljeiket a Claude segítségével fejlesszék – anélkül, hogy erre engedélyük lett volna.
Hogyan működtek ezek a támadások?
Az Anthropic csütörtökön közzétett jelentése szerint a különböző cégek eltérő módszerekkel próbálták meg kiaknázni a Claude rendszert:
- Alibaba: A cég a valaha mért legnagyobb desztillációs támadást hajtotta végre – 3500 hamis fiókot használva több mint 151 millió adatcserét generált május és július között. A fiókok arra kényszerítették a Claude-ot, hogy részletes gondolkodási folyamatait is kifejtse, amelyeket aztán a Qwen modellek betanításához használtak fel.
- Moonshot AI: A cég 23 millió alkalommal irányította át a saját felhasználóinak kéréseit a Claude-hoz saját modellje helyett, ugyanebben az időszakban.
- DeepSeek: Mindössze 14 nap alatt, júliusban 12,1 millió kérés átirányítását rögzítette az Anthropic a DeepSeek részéről.
- Xiaomi: A vállalat a saját MiMo modelljével folytatott felhasználói beszélgetéseket rögzítette, majd ezeket a Claude-nak adta át tanítási adatok előállítása céljából.
- Z.ai: Az Ox Alpha modelljéről ismertté vált cég az Alibabáéhoz hasonló természetű támadást hajtott végre.
Érzékeny adatok is kiszivárogtak
Az Anthropic jelentése rámutat arra is, hogy a Claude-hoz átirányított kérések egy része kínai és orosz kormányzati, illetve katonai szempontból érzékeny adatokat tartalmazott. Az egyik esetben egy kínai Népfelszabadító Hadsereghez köthető Kimi-felhasználó CCTV-felvételeket töltött fel, egy másik esetben pedig egy orosz katonai alvállalkozó egy orosz kormányzati adatbázisból származó információkat adott meg.
Az Anthropic válaszlépései
A támadásokra reagálva az Anthropic több védelmi intézkedést is bevezetett:
- Új szűrőrendszereket telepítettek a gyanús tevékenységek blokkolására.
- A Claude mostantól kevésbé részletes gondolkodási folyamatokat oszt meg, amelyek kevésbé alkalmasak modellek betanítására.
- Azoknak a felhasználóknak, akik Kínából, Oroszországból vagy Iránból látszanak hozzáférni a rendszerhez – ahol a Claude egyébként nem érhető el –, személyazonosságukat kötelezően igazolniuk kell.
Nem ez az első eset
Az Anthropic már korábban is nyilvánosan bírálta a kínai AI vállalatokat hasonló visszaélések miatt. Júniusban Sarah Heck, az Anthropic szakpolitikai vezetője egy törvényhozókhoz intézett levélben jelezte, hogy az Alibaba április 22. és június 5. között 28,8 millió engedély nélküli adatcserét folytatott a Claude-dal, és jogszabályi beavatkozást sürgetett az ilyen típusú támadások megfékezésére.
Az Alibaba, a Moonshot, a DeepSeek, a Zhipu és a Xiaomi képviselői a Business Insider megkeresésére nem válaszoltak, és maga az Anthropic sem reagált a kommentárkérésre.
Forrás: www.businessinsider.com
Vélemény, hozzászólás?