Ön hisz még a szemének és a fülének?

Az elmúlt néhány évben a deepfake tartalmak ex po nen ciálisan növekedtek, a DeepMedia szerint ­2023-ban nagyjából 500 000 videó- és hangalapú deepfake-et osztottak meg a közösségi médiában világszerte. ­2025-re 8 millió online megosztott deepfake-et prognosztizálnak, ami azt jelenti, hogy ezek száma félévente megduplázódik.

Cikksorozatunk második részében – természetesen a teljesség igénye nélkül – azt nézzük meg, milyen negatív, a társadalomra, illetve az egyes egyénekre káros felhasználási módjai ismertek a deepfake-nek. A deepfake térnyerése jelentős kihívások elé állítja a társadalom különböző rétegeit, a politikától az üzleti életig. Most a mindennapok során gyakrabban előforduló típusokat vesszük górcső alá.

Bizalom a virtuális térben

Az emberek nagy része bizalommal lép be az online térbe, vagyis hisznek abban, hogy a dolgok ott nagy valószínűséggel rendben, az általuk várt módon zajlanak majd. Ebben a térben (ilyenek lehetnek például a közösségi platformok, a közösségimédia-csoportok, a blogok, a kommentfelületek, a különféle piacterek) gyakran ismeretlen személyekkel „találkoznak”, lépnek kapcsolatba, gyakran úgy, hogy a kapcsolatot nem is ők kezdeményezik. Ennek a bizalomnak köszönhetően adják meg az adataikat, töltik fel fotóikat a különféle online felületeken, vagy elegyednek beszélgetésbe olyan emberekkel, akiket személyesen nem ismernek.

 A bizalom kihasználása azonban a digitális térben is létezik – az emberi bizalmat, jóindulatot és segítőkészséget kihasználó technikákat összefoglaló angol fogalom a social engineering, amelyet magyarul leggyakrabban pszichológiai manipulációnak neveznek. A fogalom meghatározását az egyik leghíresebb social engineer, Kevin Mitnick így írta le: „A social engineering a befolyásolás és rábeszélés eszközével megtéveszti az embereket, manipulálja vagy meggyőzi őket, hogy a social engineer tényleg az, akinek mondja magát. Ennek eredményeként a social engineer – technológia használatával vagy anélkül – képes az embereket információszerzés érdekében kihasználni.”[1] Ennek a manipulációnak egyik eszköze a deepfake.

A deepfake sötét oldala

Pornográf tartalmak

Amint azt cikksorozatunk első részében említettük, a deepfake kifejezés 2017-ben vált használatossá a mesterséges intelligenciával létrehozott tartalmakra a Redditen, ahol olyan videókat tettek közzé, amelyekben arccserélő technológiát használtak hírességek képmásának meglévő pornográf videókba történő beillesztésére. Mind a mai napig a deepfake-et leggyakrabban hamis pornográf videók és „bosszúpornó” készítésére használják.

Politikai manipuláció

A deepfake betört a politika világába is, az orosz–ukrán háború újabb teret nyitott a használatának: Volodimir Zelenszkij ukrán elnök egy deepfake videóban arra kéri a hadseregét, hogy hagyja abba a harcot.[2] Ilyen tartalmú videó egyébként készült Vlagyimir Putyin orosz elnökről is.[3]

 A csaló forgatókönyveknek csak a fantázia szab határt, amint a Reuters cikke írja: „Az egyik jelölt hangja szerepelt olyan automata telefonhívásokban, amelyekkel a szavazókat lebeszélték arról, hogy elmenjenek szavazni egy előválasztáson… Mesterségesen előállított videók, amelyekben híre színészek arra kérik az embereket, hogy az ellenzéki pártra szavazzanak… Hamisított hangfelvétel, amelyen az egyik jelölt azt mondja, hogy megemeli a sör árát… Ez csak néhány friss példa a politikában előforduló deepfake-ekre. A mesterséges intelligencia készen áll arra, hogy jelentősen súlyosbítsa a politikában már jól bejáratott félretájékoztatás problémáját.”[4] Mindezek nemcsak a politikai szereplőkbe vetett bizalmat ássák alá, hanem alkalmasak arra is, hogy megváltoztassák az emberek véleményét, és befolyásolják a választásokat.

Álhírek

Egy francia weboldalon megjelent hír szerint Olena Zelenszka, az ukrán first lady 4,5 millió euróért vásárolt egy ritka Bugatti Tourbillon sportkocsit, amikor júniusban Párizsban járt a D-napi megemlékezéseken. A pénz forrása állítólag amerikai katonai segélyekből származott. Szakértők furcsa anomáliákat találtak az online közzétett számlán, és a történetben idézett informátor is csak egy furcsán szerkesztett videóban jelent meg, amelyet valószínűleg mesterségesen hoztak létre. A Bugatti cáfolta a hírt, de még mielőtt az igazság kiderült volna, az influenszerek már felkapták és széles körben elterjesztették.[5]

A deepfake technológiák folyamatos fejlődése mindinkább elősegíti az egyre hitelesebbnek tűnő álhírek előállítását, és ezek gyors terjedése a közösségi médiában súlyosbítja a globálisan jelentős mértékű félretájékoztatás problémáját.

Személyes adatok engedély nélküli felhasználása

A deepfake-et olyan tartalmak létrehozására is használják, amelyekben embereket a hozzájárulásuk nélkül szerepeltetnek. Színészek egy 2023-as sztrájkjuk[6] során az ellen tiltakoztak, hogy mesterséges intelligencia és deepfake segítségével a hozzájárulásuk nélkül használják fel a képmásukat. Ez komoly adatvédelmi aggályokat vet fel, és jogi szabályozást tesz szükségessé az egyének deepfake használatával szembeni védelmére.

Az üzleti életre gyakorolt hatás – „CEO csalások”

Az üzleti világ sem marad ki a deepfake célpontjai közül. Az ebbe a típusba tartozó csalások során a támadó vezetőnek vagy üzleti partnernek adja ki magát, és valamilyen pénzügyi tranzakció végrehajtására ad utasítást.

Az első ismert esetről, amikor mesterséges intelligencia által generált hanghamisítást használtak ilyen típusú csaláshoz, a The Wall Street Journalban még 2019-ben megjelent cikkben olvashatunk.[7] Az ott leírtak szerint egy brit székhelyű energetikai cég vezérigazgatója azt hitte, hogy a főnökével, a cég német anyavállalatának vezérigazgatójával beszél telefonon, és utasítására átutalt 220 000 eurót egy magyar beszállító bankszámlájára. Valójában egy csalóé volt a hang, aki mesterséges intelligencia hangtechnológiát használt a német vezérigazgató hangjának meghamisítására.

 A vezérigazgató felismerte főnöke hangjában a finom német akcentust – ráadásul a hang a férfi beszédének „dallamát” is utánozta. A csaló háromszor hívta fel a céget: először kezdeményezte az átutalást, a másodikban hamisan azt állította, hogy visszautalták a pénzt, harmadszor pedig újra kérte a kifizetést. Ezen a ponton az áldozat gyanút fogott: látta, hogy az állítólagos visszautalás nem történt meg, és észrevette, hogy a hívás egy osztrák telefonszámról érkezett. Bár a második kifizetést nem indította el, az elsőt már átutalta, amely a magyar bankszámláról egy mexikói bankszámlára került, ezt követően további helyekre utalták.

A kockázat folyamatosan nő

A nagy teljesítményű mesterséges intelligencia eszközökhöz való könnyű hozzáférés és a nyilvánosan elérhető adatok nagy mennyisége jelentős mértékben hozzájárul a deepfake terjedéséhez.

 A közösségi médiaplatformok az információk gyors és széles körű terjesztésével döntő szerepet játszanak a deepfake tartalmak növekvő számában. Egy, az iProov által készített tanulmány szerint 2022-ben a globális fogyasztók kevesebb mint egyharmada tudta, mi az a deepfake. Ez rávilágít arra, hogy az álhírek és hamis információk milyen gyorsan terjedhetnek ezeken a platformokon.

A következő részben annak járunk utána, hogy milyen lehetőségeink vannak a deepfake káros hatásai elleni védekezésre.

Ruzsa Zsuzsa


[1] Kevin D. Mitnick – William L. Simon: A legendás hacker. A megtévesztés muvészete. Perfact-Pro Kft. Bp., 2003.

[2] https://www.youtube.com/watch?v=X­17yrEV5sl4

[3] https://x.com/sternenko/status/­1504090918994993160

[4] https://www.reuters.com/ – Deep concerns over political deepfakes. 2024. máj. 20.

[5] https://www.bbc.com/news/ – A Bugatti car, a first lady and the fake stories aimed at Americans, 2024. júl. 3.

[6] https://aibusiness.com/ – Actors Strike Over AI: A Glimpse of Workers’ Future? 2023. szept. 27.

[7] https://www.wsj.com/ – Fraudsters Used AI to Mimic CEO’s Voice in Unusual Cybercrime Case, 2019. aug. 30.