LÉNYEG  A tanítóadatok mérgezése valós, kutatásokkal igazolt támadási és védekezési módszer. A jelenlegi bizonyítékok azonban főként ellenőrzött kísérletekből származnak. A legfontosabb következmény ezért nem az MI közeli összeomlása, hanem a kétes eredetű webes adatok kockázatának és ellenőrzési költségének növekedése.

Az internet mint korlátlan nyersanyagforrás

A generatív mesterséges intelligencia gyors fejlődésének egyik alapja a rendkívül nagy adatmennyiség. Kép-szöveg párok, weboldalak, könyvek, programkódok, hangfelvételek és videók szolgáltak tananyagként. A nyilvánosan hozzáférhető internet technikailag könnyen gyűjthető forrásnak látszott, ám a nyilvános elérhetőség nem jelenti automatikusan azt, hogy egy mű korlátozás nélkül felhasználható gépi tanításhoz.

A méretet jól érzékelteti a LAION-5B: a nonprofit LAION közlése szerint az adatbázis 5,85 milliárd, gépileg szűrt kép-szöveg párt tartalmaz. Fontos pontosítás, hogy a LAION-adatbázis elsősorban URL-eket és kapcsolódó metaadatokat indexel, nem egyszerűen egyetlen óriási képraktár. Ettől azonban a szerzői jogi, adatvédelmi és minőségbiztosítási kérdések nem tűnnek el.

A technológiai ipar maga is elismeri a szerzői joggal védett anyagok jelentőségét. Az OpenAI a brit parlament egyik bizottságának 2023-ban benyújtott írásos válaszában azt állította, hogy a mai vezető modellek betanítása szerzői joggal védett tartalmak használata nélkül nem volna megvalósítható. Ez nem annak beismerése, hogy minden ilyen felhasználás jogellenes; inkább azt mutatja, milyen mélyen épülnek ezek a rendszerek a modern kultúra és tudásanyag egészére. A jogszerűség megítélése joghatóságonként és konkrét felhasználási módonként eltér, számos kérdés pedig ma is vitatott vagy peres eljárás tárgya.

Mi az adatmérgezés?

Az adatmérgezés olyan manipuláció, amelynél szándékosan módosított példák kerülnek a tanítóadatok közé, hogy a modell a kívánttól eltérő összefüggést tanuljon meg. Nem feltétlenül kell szervert feltörni: ha egy modell fejlesztője ellenőrzés nélkül begyűjt egy nyilvánosan közzétett, előre módosított fájlt, a problémás adat a következő tanítási vagy finomhangolási körben fejtheti ki a hatását.

A módszer nem új, de a generatív modelleknél különösen látványos lehet. Egy képmodell a szövegek és a vizuális jellemzők közötti kapcsolatokat tanulja. Ha például a „kutya” fogalmához elegendő, gondosan elkészített példában más vizuális jellemzők kapcsolódnak, a modell később hibás képi asszociációkat hozhat létre. A hatás mértéke ugyanakkor erősen függ az adatbázis összetételétől, a tanítási eljárástól, a szűréstől és attól, hogy a módosított fájlokat valóban felhasználják-e.

Glaze: a stílus elrejtésének kísérlete

A Chicagói Egyetem kutatói 2023-ban mutatták be a Glaze rendszert. A célja nem egy általános képmodell tönkretétele, hanem az, hogy megnehezítse egy alkotó stílusának engedély nélküli utánzását. A program az ember számára lehetőleg alig feltűnő módosításokat - úgynevezett stílusálcákat - helyez el a képen. Ezek arra próbálják rávenni a tanuló rendszert, hogy a mű valódi stílusa helyett egy eltérő vizuális stílust érzékeljen.

A kutatók felhasználói vizsgálatokat és technikai teszteket is végeztek, és az általuk vizsgált körülmények között erős védelmi hatásról számoltak be. Ezt azonban nem szabad örök vagy minden modell ellen garantált védelemként értelmezni. A későbbi kutatások tisztító és eltávolító módszereket vizsgáltak, a Glaze fejlesztői pedig ezekre új változatokkal reagáltak. Ez tipikus biztonsági fegyverkezési verseny: a védelem és a megkerülés egymást alakítja.

Nightshade: amikor a begyűjtött kép csapdává válik

A Nightshade ugyanennek a chicagói kutatócsoportnak a 2023 őszén ismertetett, majd a 2024-es IEEE Symposium on Security and Privacy konferencián bemutatott módszere. Ez már kifejezetten fogalomspecifikus adatmérgezés. A módosított kép az ember számára továbbra is a helyes témát mutatja, a modell belső reprezentációjában azonban egy másik célfogalom felé tolódik.

A tanulmány leggyakrabban idézett eredménye szerint az SDXL egy kiválasztott promptjához száz alatti, optimalizált mérgezett példa is elegendő lehetett a vizsgált kísérleti beállításban. A kutatók azt is megfigyelték, hogy a hatás rokon fogalmakra átterjedhet, több párhuzamos támadás pedig szélesebb modellromlást idézhet elő.

Itt szükséges a legfontosabb óvatosság. A kutatás nem bizonyítja, hogy ötven vagy száz nyilvánosan feltöltött kép automatikusan megmérgez bármely mai kereskedelmi modellt. Nem ismerjük minden zárt rendszer tanítóadatait, szűrését, deduplikációját és ellenintézkedéseit. Az sem biztos, hogy a védett kép egyáltalán bekerül a tanításba. A Nightshade tehát valós, működőképes koncepciót demonstrál, de a laboratóriumi eredményből nem következik egy az egyben a vezető szolgáltatások gyakorlati sebezhetősége.

A két eszköz közötti különbség

A képektől a hangig: személyes identitás mint tanítóadat

A védekezési gondolat a hangfelvételeknél is megjelent. A 2025-ös USENIX Security konferencián publikált SafeSpeech kutatás olyan, az eredeti beszédbe ágyazott perturbációkat vizsgált, amelyek az emberi hallgató számára kevéssé érzékelhetők, miközben rontják az engedély nélküli hangszintézis minőségét vagy a beszélőhöz való hasonlóságot. A szerzők több beszédszintetizáló modellen, tanítási és zero-shot klónozási helyzetben is kedvező eredményekről számoltak be.

A technika itt sem jelent feltétlen védelmet minden jelenlegi és jövőbeli rendszer ellen. 2025-ös és 2026-os kutatások már kifejezetten az ilyen védőzajok tisztítását, illetve a valós feldolgozási láncokkal szembeni robusztusságot vizsgálják. A helyes állítás tehát az, hogy létezik ígéretes, proaktív hangvédelem - nem pedig az, hogy egyetlen szűrő végleg lehetetlenné teszi a hangklónozást.

A veszély ugyanakkor nem elméleti. A hongkongi kormány hivatalos közlése szerint 2024 januárjában egy munkatársat előre felvett, deepfake-elemeket használó videókonferenciával tévesztettek meg; a veszteség mintegy 200 millió hongkongi dollár volt. A hatósági beszámoló szerint a támadók nyilvánosan elérhető videó- és hanganyagokat használtak fel. Az eset jól mutatja, hogy az arc és a hang nem egyszerű tartalom: digitális személyazonosító jellegük is van.

Ki áll nyerésre a fegyverkezési versenyben?

Erre ma nincs megbízható, általános válasz. A védők új perturbációkat fejlesztenek, a modellépítők pedig képfelirat-ellenőrzéssel, anomáliadetektálással, deduplikációval, adatforrás-minősítéssel és előfeldolgozással próbálhatják kiszűrni a problémás mintákat. Egy egyszerű szűrő azonban hamis riasztásokat is okozhat: tiszta adatokat dobhat el, miközben egy részükön átcsúszhatnak az alkalmazkodó támadások.

A nyers webes adat ezért nem feltétlenül marad olcsó akkor sem, ha a letöltése technikailag kevesebbe kerül. Meg kell állapítani az eredetét, a felhasználási jogosultságot, a minőséget, az esetleges manipulációt és a címkék helyességét. A bizonytalanság ellenőrzési, jogi és számítási költséggé alakul.

Ez nem jelenti azt, hogy az internetes tanítóadatok korszaka egyik napról a másikra véget ér. Inkább arról van szó, hogy a „minél több adat” elve mellé egyre erősebben felzárkózik a „minél jobb eredetű adat” követelménye. A mennyiség továbbra is fontos, de a származás és a felhasználási jog dokumentálása már önálló értéket képvisel.

A szabályozás is az adatok eredete felé fordul

Az Európai Unió MI-rendelete a general-purpose AI modellek szolgáltatóitól többek között szerzői jogi szabályzatot és a tanítási tartalom nyilvános összefoglalását követeli meg. Az Európai Bizottság 2025-ben közzétette az ehhez használható sablont, amely az adatforrások és adatfeldolgozási módszerek áttekintését is kéri. Ez nem egyenlő a teljes tanítóadatbázis nyilvánosságra hozatalával, és nem old meg minden jogvitát, de fontos irányváltás: az adatok eredete többé nem kezelhető pusztán belső technikai részletként.

A piac másik lehetséges irányát az engedélyezett adatkészletekre épülő modellek mutatják. Az Adobe saját tájékoztatása szerint a Firefly modelljeit licencelt tartalmakon - köztük Adobe Stock anyagokon - és lejárt szerzői jogú közkincs-tartalmakon tanítja, nem pedig Midjourney-képeken, ahogy az eredeti átirat tévesen állította. Az Adobe azt is közli, hogy a Stock-közreműködők számára kompenzációs rendszert alkalmaz. Ezek vállalati állítások, és nem bizonyítják, hogy minden részlet vitamentes; azt viszont jól példázzák, hogy a dokumentált jogosultság piaci pozicionálási tényezővé vált.

A valódi tét: ki rendelkezik az emberi alkotással?

A vita mélyén nem pusztán technológiai kérdés áll. A hálózatra feltöltött festmény, fénykép, szöveg vagy hangfelvétel egyszerre lehet nyilvános közlés, személyes önkifejezés, üzleti eszköz és egy következő modell tananyaga. Az alkotók egy része úgy érzi, hogy a tanításból származó gazdasági értékből kimarad, miközben a rendszer képes a munkájukhoz vagy stílusukhoz hasonló tartalmak előállítására.

A Glaze és a Nightshade ezért nem csupán technikai trükk. Annak a bizalomhiánynak a jele, amely akkor keletkezik, amikor a hozzájárulás, az ellentételezés és az átláthatóság kérdéseire nincs minden szereplő számára elfogadható válasz. A technikai ellenállás önmagában nem teremti meg ezt a megállapodást, de növelheti annak árát, ha valaki figyelmen kívül hagyja az alkotók döntését.

A tiszta adat lesz az új prémium nyersanyag

A tanítóadatok mérgezése nem állítja meg a mesterséges intelligenciát, de hozzájárulhat annak a korszaknak a lezárásához, amelyben az internet teljes tartalmát ingyenes, tiszta és következmények nélkül felhasználható nyersanyagnak tekintették.

A következő évek MI-versenyét továbbra is meghatározza a számítási kapacitás, az energia, a kutatói tudás és az algoritmikus hatékonyság. Mellettük azonban egyre fontosabb lesz az adatok származása: ki készítette őket, milyen engedéllyel használhatók, módosították-e őket, hogyan címkézték és milyen minőségbiztosításon mentek keresztül.

A nagy, de bizonytalan eredetű adathalmaz értéke csökkenhet, ha a megtisztítása drága, a jogi kockázata magas, vagy nem lehet megbízhatóan kizárni a manipulációt. Ezzel szemben a kisebb, gondosan dokumentált és engedélyezett adatállomány felértékelődhet. Ebből új piac is kialakulhat: alkotói licencrendszerekkel, ellenőrizhető adat-eredettel, bevételmegosztással és olyan technikai szabványokkal, amelyek géppel is olvashatóvá teszik a felhasználási feltételeket.

A Nightshade legfontosabb üzenete ezért nem az, hogy az alkotók hamarosan „lobotomizálják” az MI-t. Sokkal inkább az, hogy az adatgyűjtés többé nem kockázatmentes, egyirányú folyamat. Aki megbízható mesterséges intelligenciát akar építeni, annak idővel nemcsak több adatra, hanem bizonyíthatóan jobb adatra lesz szüksége.

Források és ellenőrzési alap

A cikk 2026. augusztus 13-án elérhető elsődleges kutatási, hatósági és intézményi forrásokra támaszkodik. A vállalati gyakorlatra vonatkozó állításoknál külön jelezzük, ha azok az adott vállalat saját tájékoztatásából származnak.

1.        Shan és mtsai: Nightshade - Prompt-Specific Poisoning Attacks on Text-to-Image Generative Models

2.        Shan és mtsai: Glaze - Protecting Artists from Style Mimicry by Text-to-Image Models

3.        Zhang és mtsai: SafeSpeech - Robust and Universal Voice Protection Against Malicious Speech Synthesis

4.        LAION: LAION-5B adatbázis ismertetése

5.        OpenAI írásos bizonyítéka a brit parlament Kommunikációs és Digitális Bizottságának

6.        Hongkongi kormány: hivatalos válasz a deepfake-csalásokról

7.        Európai Bizottság: General-purpose AI modellek kötelezettségei az AI Act alapján

8.        Európai Bizottság: a tanítási tartalom nyilvános összefoglalójának sablonja

9.        Adobe: a Firefly tanítóadatokra vonatkozó vállalati tájékoztatása