Hogyan szúrjuk ki a hamis MI-fotókat? – Hany Farid előadása a hamis képek leleplezéséről
25 • 07 • 22Baki László
Az internetet elárasztó mesterséges intelligencia által generált képek és videók olyan hitelesnek tűnnek, hogy gyakran a szakértők is alig tudják megkülönböztetni őket a valós alkotásoktól. Hany Farid, a Berkeley Egyetem kutatója és professzora több évtizede dolgozik azon, hogy visszaállítsa az emberek bizalmát a digitális médiában. TED-előadásában bemutatja, hogyan lehet – és miért kell – felismerni a mesterséges intelligencia által generált hamis képeket és mit tehetünk az online tér megtisztításáért.
Főként a 19., de még a 20. században is a közönség éppoly kiszolgáltatottan hitt a képeknek, mint ma a mesterséges intelligenciával készült felvételeknek. Jó példa erre a nemrég megjelent cikkünk a Cottingley-tündérek alig százéves történetéről, melyet még Sir Arthur Conan Doyle is elhitt. Akkoriban a fotó varázslatnak tűnt, ma az MI-tartalmak hitelessége tűnik annak, Hany Farid épp ezért figyelmeztet: újra meg kell tanulnunk kételkedni a látottakban.
Hany Farid amerikai alkalmazott matematikus és számítógéptudós harminc éve foglalkozik digitális képek és videók elemzésével és hitelesítésével. A Berkeley Egyetem professzoraként dolgozik, és csapatával együttműködik bíróságokkal, újságírókkal, civil szervezetekkel és állami intézményekkel, céljuk: megkülönböztetni a valóságot a manipulált tartalmaktól. „Olyan háborút vívunk az igazságért, amelynek tétje nemcsak az online világ megbízhatósága, hanem a demokrácia jövője is” – figyelmeztet Farid, aki előadásában bemutatja, hogy a generatív mesterséges intelligencia nem csupán játékos eszköz, hanem olyan manipulációs lehetőséget kínál, amely már ma is súlyos következményekkel jár.
„Az igazi veszély, hogy nem tudjuk már, mit higgyünk el”
– mondja Farid, aki látványos példákkal mutatja be, hogyan lehet lebuktatni az AI által generált képeket. Három fő vizsgálati módszert ismertet: a zajmintázatok elemzését, az eltérő perspektívák – például a párhuzamos vonalak és eltérő árnyékok – vizsgálatát, valamint a fizikai világ törvényeit sértő geometriák felismerését. „Az AI nem érti a fényt és az árnyékot, csak statisztikát tanul” – fogalmaz Farid, aki arra is figyelmeztet: bár a technológia egyre fejlettebb, az eszközök még mindig a kezünkben vannak; a szakember azt tanácsolja, hogy ne a közösségi médiából tájékozódjunk és ne osszunk meg megalapozatlan tartalmakat. „Választhatunk: hagyjuk, hogy a technológia szétszakítsa a társadalmat – vagy új utat találunk, hogy az emberiség szolgálatába állítsuk.”
(A videó elinditása után a subtitles ikonra kattintva beállítható az előadáson elhangzottak magyar feliratozása.)
Farid és csapata jelenleg olyan nyílt forráskódú eszközökön dolgozik, amelyek a jövőben újságírók, bíróságok és civilek számára is elérhetők lesznek. Emellett támogatják a nemzetközi tartalomhitelesítési szabványok bevezetését, amely lehetővé tenné a képek eredetének és hitelességének visszakövetését a forráshoz.
Ebben a korábbi cikkünkben olyan képeket mutattunk, melyeket vagy fotográfusok készítettek analóg vagy digitális kamerával vagy promptográfusok hozták létre kulcsszavaikkal az AI segítségével. De vajon melyik melyik?
