A mesterséges intelligencia által generált anyagok problémája rosszabb, mint elsőre gondolnánk. Nem csak a jobb-rosszabb képek száma növekszik exponenciálisan, de a Facebook posztok ötöde is ilyeneket tartalmazó spamekből tevődik össze, szennyezik a normál kommunikációt.

Megváltozott a világ immár sokadszorra. Korábban jobban hihettünk legalább a szemünknek, ha az újság, a rádió, a televízió vagy az internet híreit nem is lehetett mindig/soha kritika nélkül elhinni. Aztán 1987-ben jött a Photoshop, amitől a képek módosíthatók manipulálhatók lettek, 2017-től a legelső Obamás példa láttán megismerkedtünk a deepfake videó fogalmával, amit ma már egyetlen állóképből is el lehet készíteni.

És egy pár éve jöttek a villámgyors AI képgenerálási lehetőségek, amiket ma már szinte mindenki ismer: Dall-E, Tengr.ai, Midjourney, Leonardo.ai, Clipdrop, Wonder, Stable diffusion, Freepik, Dreamstudio, MS Bing, stb. És ezek egyre csak ontják a tartalmaikat például a közösségi oldalakon.

A hagyományos szakmai csoportokon felül, ahol a tagok rendszeresen megosztanak egymással generált képeket, tucatszám tűnnek fel olyan profilok, amelyek bizarr képeket posztolnak, és több tízezres követőtábor veszi őket körül. A publikált képeik többsége valamilyen furcsaság.

Például egy ilyen július 4-i kép látszólag a vatikáni Szent Péter-bazilika légi felvétele, lent a téren összegyűlt emberekkel. Fejük fölött, egy gigantikus fekete helikopteren csüng egy óriás méretű Biblia, bár a borítón a betűk eléggé torzak, ráadásul a megszokott kereszt emblémának van egy felesleges extra jobboldali nyúlványa is.

A bejegyzést posztoló "Love shares 3.0" nevű profil 71 ezer követővel rendelkezik, ami jelentős számnak látszik. A kép alatt viszont szemlátomást csak zavaros, zagyva szöveg olvasható, és semmi köze a fentiekhez: "Csukd be a szemed 70%-ig, és lásd varázslatot / Ma van az érettségim / 2024. májusa a legjobb éved.”

A mellékelt hashtagek is hamisak: #művészet, #festmény - azonban ordít a képről, hogy azt a mesterséges intelligencia segítségével alkották, ez a tény viszont már sokszor nem szerepel itt semmilyen formában. A kép ennek ellenére több ezer lájkot, és szívecskét zsebelt be, sokan csak valami egyszavas kommenttel jelölték, például: "ámen", vagy osztották meg ismerőseiknek.

Sokféle hasonló tartalom jelenik meg minden egyes percben: Bibliák, babák, amerikai zászlók, katonák, állatok, fényűző otthonok, lélegzet elállító tájak, kórházi ágyon fekvő betegek, otthontalanok, éhezők. Nem tudni, vajon a felhasználók tudatában vannak-e annak, hogy amiket látnak, annak semmi köze a valósághoz, mint például ez a katonai teherautó, amely mintha óriási gigantikus répákat szállítana.

Semmi értelme a képnek, ahogy a Pig Videos profil által melléket szövegnek sem: "99 év szerencse, Soha nem lesz kevés a pénzed ahhoz, hogy utazhass". A képhez aztán pedig végképp semmi köze nincs mindennek. De ott a 634 begyűjtött lájk.

A Meta/Facebook nem igazán szűri ki vagy legalább címkézi fel ezeket a képeket mint "AI anyag", simán csak figyelmen kívül hagyják ezeket a mesterséges intelligencia által generált tartalmakat. A vezetőség ez ügyben nagyjából azzal érvel, hogy mivel a manipulált tartalom közvetlenül nem sérti a közösségi normáikat, így nem korlátozzák feleslegesen a szólásszabadságot, de folyamatosan vizsgálják a lehetőségeket, egyelőre automatikusan csak a saját eszközeikkel generált képeket címkézik fel.

Az ilyen jellegű kéretlen tartalmakkal kapcsolatban a RollingStone kérdésére azt válaszolták, hogy a spamek felszámolása szinte lehetetlen feladat, ennek ellenére ők mindent megpróbálnak, például 2024. első negyedévében 436 milliót távolítottak el ezekből.

Ezek a kártékony profilok gyakran azzal a forgatókönyvvel működnek, hogy eleinte ilyen képeket közölve felhizlalják a követői tábort. Ezzel sokféle céljuk lehet: reklámbevételekre utaznak, felhasználói adatokat akarnak begyűjteni, vagy amikor már jelentős számú követővel rendelkeznek, akkor már direkt politikai üzenetekkel jelentkeznek, például az amerikai vagy más országbeli választásokat befolyásoló tartalmakkal.

Ehhez a profil vagy csoport nevét is bármikor megváltoztathatják, például "Szavazz a Bolsonaro-ra" lesz belőle. Ráadásul az ilyen kamu fiókoknak, csoportoknak jelentős feketepiaca is van, manipulációs célokra adják-veszik ezeket.

A cikk szerint a folyamat fő részesei és áldozatai az idősebb korosztály, amelyik gyanútlan, és nem rendelkezik kellő biztonságtudatossággal. Lényeges lenne, hogy az intő jeleket mindenki képes legyen felismerni, és tudatosabban navigáljon a kibertérben. Annak is gyanúsnak kell lennie, ha egy adott profil naponta több száz posztot hoz létre, ilyenkor joggal gyanakodhatunk valamilyen automatizált spammelésre.

Azt pedig már egy korábbi tanulmányban is láttuk, hogy a hamis hírek gyorsabban terjednek a közösségi médiában, mint az igazi információk. A fentiek fényében fontos, hogy az alap kibervédelem mellett azt is végiggondoljuk, mit lájkolunk, mit kommentelünk, mire iratkozunk fel, mit osztunk meg, vagy mit osztunk tovább. A profilunkra nem csak saját magunk miatt vigyázunk, hanem ezzel az ismerőseinket is védjük a nemkívánatos hatásoktól: adatszivárgástól, csalásoktól, átverésektől, manipulációktól.