Mély hamisítványok: A Neuroset-et megtanították hang- és videóhamisítványok generálására

2024 Szerző: Seth Attwood | [email protected]. Utoljára módosítva: 2023-12-16 16:07

Ahhoz, hogy bármelyikünk számára „egyéni” hírképet alkossunk, és az abban kiválasztott médiahíreket meghamisítsuk, ma már egyetlen programozó erőfeszítése is elegendő. Erről a mesterséges intelligencia és a kiberbiztonság szakemberei meséltek az Izvesztyiának.

Újabban úgy becsülték, hogy ehhez több csapat munkájára volt szükség. Ez a gyorsítás a neurális hálózatok elleni támadások technológiáinak kifejlesztésével, valamint a „mély hamisítványok” létrehozására szolgáló programok segítségével hang- és képhamisítások generálásával vált lehetővé. Az Izvesztyija című újságot nemrégiben érte hasonló támadás, amikor három líbiai hírportál egyszerre közölt egy üzenetet, amely állítólag az egyik számban jelent meg. Szakértők szerint 3-5 éven belül számíthatunk a robotmanipulátorok inváziójára, amelyek automatikusan képesek lesznek rengeteg hamisítványt létrehozni.

Szép új világ

Egyre több olyan projekt van, amely az információs képet az adott felhasználók észleléséhez igazítja. Munkájuk egyik példája volt három líbiai portál legutóbbi akciója, amelyek állítólag az Izvesztyija november 20-i számában jelentek meg hírt. A hamisítvány készítői módosították az újság címlapját, és üzenetet tettek rá Khalifa Haftar tábornagy és Fayez Sarraj kormányfő (PNS) miniszterelnöke közötti tárgyalásokról. A hamisítványhoz, Izvesztyija betűtípussal, a két vezetőről 2017 májusában készült fotó is volt. A kiadvány logóját tartalmazó címke a ténylegesen megjelent november 20-i számból, az oldal összes többi szövege pedig az október 23-i számból lett kivágva.

Szakemberek szemszögéből nézve belátható időn belül az ilyen hamisítások automatikusan megtörténhetnek.

„A mesterséges intelligencia technológiái már teljesen nyitottak, az adatok fogadására és feldolgozására szolgáló eszközök pedig miniatürizálódnak és egyre olcsóbbak” – mondta Jurij Vilsiter, a fizikai és matematikai tudományok doktora, az Orosz Tudományos Akadémia professzora, az FSUE „GosNIIAS” osztályának vezetője. mondta Izvesztyiának. – Ezért nagy a valószínűsége annak, hogy a közeljövőben még csak nem is az állam és a nagyvállalatok, hanem egyszerűen magánszemélyek tudnak majd lehallgatni és kémkedni minket, illetve manipulálni a valóságot. Az elkövetkező években a felhasználói preferenciák elemzésével hírfolyamokon és nagyon ügyes hamisítványokon keresztül lehet őt befolyásolni.

Jurij Vilsiter szerint már léteznek olyan technológiák, amelyek a mentális környezet ilyen jellegű beavatkozására használhatók. Elméletileg néhány éven belül várható a robotbotok inváziója – mondta. A korlátozó pont itt az lehet, hogy nagy adatbázisokat kell összegyűjteni a valódi emberek mesterséges ingerekre adott válaszairól a hosszú távú következmények nyomon követésével. Az ilyen nyomon követés valószínűleg több évnyi kutatást igényel, mielőtt következetesen célzott támadásokat érnek el.

Vision támadás

Alekszej Parfentiev, a SearchInform elemzési osztályának vezetője szintén egyetért Jurij Vilsiterrel. Elmondása szerint a szakértők már előrejelzik a neurális hálózatok elleni támadásokat, bár ma már gyakorlatilag nincs ilyen példa.

- A Gartner kutatói úgy vélik, hogy 2022-re az összes kibertámadás 30%-a a neurális hálózat képzésének alapjául szolgáló adatok megrongálására és a kész gépi tanulási modellek ellopására irányul majd. Ekkor például a pilóta nélküli járművek hirtelen elkezdhetik összetéveszteni a gyalogosokat más tárgyakkal. És nem pénzügyi vagy reputációs kockázatról fogunk beszélni, hanem a hétköznapi emberek életéről és egészségéről – véli a szakember.

A számítógépes látórendszerek elleni támadásokat jelenleg a kutatás részeként hajtják végre. Az ilyen támadások célja, hogy a neurális hálózat észleljen valamit a képen, ami nincs ott. Vagy fordítva, hogy ne lássuk, mit terveztek.

„A neurális hálózatok oktatásának egyik aktívan fejlődő témája az úgynevezett ellenséges támadások („ellenkező támadások.” – Izvesztyija)” – magyarázta Vladislav Tushkanov, a Kaspersky Lab webelemzője. - A legtöbb esetben számítógépes látórendszerekre irányulnak. Egy ilyen támadás végrehajtásához a legtöbb esetben teljes hozzáféréssel kell rendelkeznie a neurális hálózathoz (ún. white-box támadások), vagy annak munkájának eredményeihez (fekete dobozos támadások). Nincsenek olyan módszerek, amelyek az esetek 100%-ában megtéveszthetnek bármilyen számítógépes látórendszert. Ezen kívül már készültek olyan eszközök, amelyek lehetővé teszik a neurális hálózatok ellenséges támadásokkal szembeni ellenállásának tesztelését és ellenállásuk növelését.

Egy ilyen támadás során a támadó megpróbálja valahogy megváltoztatni a felismert képet, hogy a neurális hálózat ne működjön. Gyakran zaj kerül a fényképre, hasonlóan ahhoz, ami rosszul megvilágított helyiségben történő fényképezéskor történik. Az ember általában nem veszi észre jól az ilyen interferenciát, de a neurális hálózat hibásan kezd működni. De egy ilyen támadás végrehajtásához a támadónak hozzá kell férnie az algoritmushoz.

Stanislav Ashmanov, a Neuroset Ashmanov vezérigazgatója szerint jelenleg nincsenek módszerek ennek a problémának a kezelésére. Ráadásul ez a technológia bárki számára elérhető: egy átlagos programozó is használhatja, ha letölti a szükséges nyílt forráskódú szoftvereket a Github szolgáltatásból.

- A neurális hálózat elleni támadás egy technika és algoritmusok a neurális hálózat megtévesztésére, amelyek hamis eredményeket produkálnak, sőt, mint egy ajtózárat, feltörik - véli Ashmanov. - Például ma már egészen könnyen elhitetheti az arcfelismerő rendszerrel, hogy nem te, hanem Arnold Schwarzenegger áll előtte - ez úgy történik, hogy az emberi szem számára észrevehetetlen adalékanyagokat kevernek a neurális hálózatba érkező adatokba. Ugyanezek a támadások a beszédfelismerő és -elemző rendszerek esetében is lehetségesek.

A szakember biztos abban, hogy csak rosszabb lesz – ezek a technológiák tömegekhez mentek, a csalók már használják is őket, és nincs ellenük védelem. Mivel nincs védelem a video- és hanghamisítások automatizált létrehozása ellen.

Mély hamisítványok

A Deep Learningen alapuló mélyhamisítású technológiák (neurális hálózatok mély tanulásának technológiái. - Izvesztyia) már valós veszélyt jelentenek. A video- vagy hanghamisítványok olyan híres emberek arcának szerkesztésével vagy átfedésével jönnek létre, akik állítólag kiejtik a szükséges szöveget, és a cselekményben a szükséges szerepet játsszák.

„A Deepfake lehetővé teszi, hogy az ajakmozgásokat és az emberi beszédet videóval helyettesítsük, ami valósághű érzést kelt a történésekről” – mondja Andrey Busargin, a Group-IB innovatív márkavédelemmel és szellemi tulajdonnal foglalkozó részlegének igazgatója. - A hamis hírességek „felajánlják” a felhasználókat a közösségi hálózatokon, hogy részt vegyenek értékes nyeremények (okostelefonok, autók, pénzösszegek) stb. Az ilyen videokiadványokból származó linkek gyakran csalárd és adathalász oldalakra vezetnek, ahol a felhasználókat személyes adatok megadására kérik, beleértve a bankkártyaadatokat is. Az ilyen rendszerek fenyegetést jelentenek mind a hétköznapi felhasználókra, mind a reklámokban megemlített közéleti személyiségekre. Ez a fajta átverés elkezdi a hírességek képeit csalásokkal vagy reklámozott árukkal társítani, és itt ütközünk személyes márkakárosodásba – mondja.

Egy másik fenyegetés a "hamis szavazatok" telefonos csaláshoz való felhasználásához kapcsolódik. Például Németországban a kiberbűnözők mélyhamisítást használtak arra, hogy egy brit leányvállalat vezetője telefonbeszélgetés során sürgősen utaljon át 220 000 eurót, cégvezetőnek kiadva magát.magyar szállító számlájára. A brit cég vezetője trükkre gyanakodott, amikor "főnöke" második utalványt kért, de a hívás egy osztrák számról érkezett. Ekkor már az első részletet utalták egy magyarországi számlára, ahonnan Mexikóba vették fel a pénzt.

Kiderült, hogy a jelenlegi technológiák lehetővé teszik egyéni, álhírekkel teli hírkép készítését. Ráadásul hamarosan csak hardverrel lehet majd megkülönböztetni a hamisítványokat a valódi kép- és hanganyagtól. Szakértők szerint a neurális hálózatok fejlesztését tiltó intézkedések valószínűleg nem lesznek hatékonyak. Ezért hamarosan olyan világban fogunk élni, amelyben folyamatosan mindent újra kell ellenőrizni.

„Erre fel kell készülnünk, és ezt el kell fogadni” – hangsúlyozta Jurij Vilsiter. - Az emberiség nem először lép át egyik valóságból a másikba. Világunk, életmódunk és értékrendünk gyökeresen eltér attól a világtól, amelyben őseink éltek 60 000 évvel ezelőtt, 5 000 évvel ezelőtt, 2 000 évvel ezelőtt, sőt 200-100 évvel ezelőtt is. A közeljövőben egy személyt nagymértékben megfosztanak magánéletétől, ezért kénytelenek semmit sem titkolni, és őszintén cselekedni. Ugyanakkor a környező valóságban és a saját személyiségében semmit nem lehet hitre venni, mindent meg kell majd kérdőjelezni és folyamatosan újra ellenőrizni. De vajon szörnyű lesz ez a jövőbeli valóság? Nem. Egyszerűen teljesen más lesz.