„A sokk olyan volt, amire nem számítottam.”
Így emlékszik vissza L., a Hongkongi Egyetem 21 éves joghallgatója, amikor azt a pillanatot érezte, amikor felfedezte, hogy egy másik hallgató mesterséges intelligencia segítségével pornográf képeket készített róla hozzájárulása nélkül.
Kezdetben magát hibáztatta, és azon töprengett, vajon nem tett-e valamit, amit a férfi félreértett.
„Annak idején nagyon megdöbbentem és féltem, és egy időre abbahagytam a közösségi oldalak használatát, mert fogalmam sem volt, ki férhet hozzá a fotóimhoz” – mondta L. a CBC-nek.
Több mint 700 fotót, amelyek között mesterséges intelligencia által generált pornográf képek is szerepeltek, fedezett fel a diáklány egykori élettársa, amikor februárban kölcsönkérte a laptopját, a feltételezett áldozatok közül három, L., B. és H. Mindhárman névtelenül beszéltek a CBC-vel, mert nem akarták, hogy osztálytársaik felismerjék őket.
L., B. és H. elmondta, hogy a laptop körülbelül 20 nőt ábrázoló mappát tartalmazott, amelyekben a közösségi médiából származó, beleegyezésük nélkül készült képernyőképek és meztelenül vagy szexuális aktusokat ábrázoló, nyíltan ábrázolt fényképeket tartalmaztak.
„A kriminalizálás jelzés a nyilvánosság felé, hogy ez a cselekvés nyilvánosan helytelen. – B.
A három HKU joghallgató júliusban úgy döntött, nyilvánosságra hozzák az esetet. Létrehoztak egy Instagram-fiókot, hogy közzétegyenek egy levelet, amely részletezi a történteket.
Azt mondták, hogy miután volt élettársa kikérdezte, a diáklány bevallotta, hogy a többi diák közösségi médiából készült képeit használta arra, hogy mesterséges intelligencia által generált pornográf képeket készítsen az arccal.
H. elmondta, hogy a Hongkongi Egyetem először arra kérte, hogy írjon egy bocsánatkérő levelet, amit meg is tett, és figyelmeztető levelet küldött neki, hogy őrizze meg a személyes aktájában belső hivatkozás céljából. H. szerint ez nem ment elég messzire ahhoz, hogy felelősségre vonja.
B. azt mondta a CBC-nek, hogy még legalább négyszer látnia kell az órán, miután felvették a kapcsolatot az egyetemmel.
Világméretű probléma
Az egyetem később közölte, hogy felülvizsgálja az esetet, és megígérte, hogy vállalja további intézkedés. A CBC-nek adott nyilatkozatában a Hongkongi Egyetem szóvivője elmondta, hogy az ügyet még vizsgálják.
John Lee, aki Hongkong városát vezeti, még mérlegelte az esetet, és júliusban ígéretet tett arra, hogy megvizsgálja a mesterséges intelligencia szabályozásának nemzetközi „legjobb gyakorlatait”.
NÉZD | A hírhedt AI pornókirály Kanadában:
A hírhedt AI pornókirály kettős élettel
A MrDeepFakes volt a világ leghírhedtebb, nem konszenzusos mélyhamisított pornó-webhelye egészen addig, amíg a CBC vizuális nyomozócsoportja – partnerei Bellingcat, Tjekdet és Politiken mellett – leleplezte a kanadai gyógyszerészt, aki kulcsszerepet játszott az oldalon. A támogatás mindenki számára elérhető, aki szexuális erőszakot élt át. A kanadai kormány ezen a webhelyén (https://bit.ly/3D1rUmb) vagy az Ending Violence Association of Canada adatbázison (https://bit.ly/3ilpp67) keresztül érheti el a válságvonalakat és a helyi támogató szolgáltatásokat. Ha közvetlen veszélyben van, vagy félti a saját vagy a környezetében élők biztonságát, hívja a 911-et.
De hónapokkal később a három HUK diák továbbra is a bezártság hiányában él. B. azt mondta a CBC-nek, hogy a hongkongi Esélyegyenlőségi Bizottsághoz benyújtott panaszukat lezárták, mert az akció a rendelet értelmében nem minősült szexuális zaklatásnak, és nem áll rendelkezésre elegendő információ a nyomozás folytatásához.
A CBC-hez eljuttatott közleményében az Esélyegyenlőségi Bizottság kijelentette, hogy „elkötelezett a diszkriminációellenes rendeletek szerinti megkeresések és panaszok pártatlan, tisztességes, igazságos és tárgyilagos kezelése mellett”.
A három nő azt mondta a CBC-nek, hogy nem tettek feljelentést a rendőrségen, mert Hongkongban nincs olyan törvény, amely büntetné a mesterséges intelligencia által generált pornográfia létrehozását.
Az eset világméretű problémára mutat rá a beleegyezés nélkül készült mesterséges intelligencia-pornó rendészeti és szabályozási kérdésében.
„Ha egyszer (valaki) birtokában vannak ezek a képek, nem fogja tudni, hogyan használják fel őket. Felhasználhatók személyesen, vagy a föld alatt vagy nyilvánosan terjeszthetők” – mondta H. „Nem tudod irányítani (ezt).
B. szerint az elkövető számítógépét is feltörhetik, így attól függetlenül, hogy a diáklány közzé akarta-e tenni a fotókat, továbbra is fennáll annak a veszélye, hogy a képek széles körben elérhetővé válnak.
„A kriminalizálás egy jelzés a nyilvánosság felé, hogy ez az intézkedés nyilvánosan helytelen” – tette hozzá B..
A „mélyhamisítások” kezelése
2021-ben Hongkong törvényt fogadott el, amely kiterjedt intim képek vagy videók hozzájárulás nélküli közzétételére vagy közzétételével való fenyegetésre, ideértve a „mélyhamisítást” is, amelyek olyan képek vagy videók, amelyeket mesterséges intelligencia segítségével digitálisan módosítottak, hogy az egyik személy arcát a másikra cseréljék. A bűncselekmények öt évig terjedő szabadságvesztéssel büntethetők.
Ez azonban nem foglalja magában a létrehozásukat vagy a birtoklásukat. Jogi szakértők szerint a kiskaput be kell zárni.
Kanadában nem számít bűncselekménynek a nem konszenzusos hamisított pornó megosztása. Mark Carney miniszterelnök törvény elfogadását ígérte ami kriminalizálná a „nem beleegyezésen alapuló szexuális hamisítványok előállítását és terjesztését” a 2025-ös szövetségi választási kampánya során.
Dél-Korea törvényt fogadott el tavaly amely nemcsak az ilyen tartalom birtoklását, hanem fogyasztását is kriminalizálja. Az Egyesült Királyság a nyíltan szexuális tartalmú mélyhamisítások létrehozását vagy terjesztését is bûncselekménynek nyilvánította, miután az elmúlt években megnövekedett az incidensek száma.
A „Nudify” alkalmazások általában mesterséges intelligencia segítségével készítenek hamis képeket az emberekről a beleegyezésük nélkül. Taylor Swift popsztár és Alexandria Ocasio-Cortez amerikai demokrata politikus a nem megegyezés alapján elkövetett nyílt hamisítások áldozatai.
Clare McGlynn, a Durham Egyetem jogászprofesszora, aki segített kidolgozni a pornográf mélyhamisítást törvénytelenné tevő brit törvényt, azt mondta a CBC-nek, hogy a közösségi média platformoknak többet kell tenniük.
Clare McGlynn, a brit Durham Egyetem jogászprofesszora szerint a közösségi média platformoknak többet kell tenniük a hamisított pornográfia elterjedésének megállítása érdekében. (Beküldő: Clare McGlynn)
Elmondta, hogy a probléma egyre szélesebb körben elterjedt, és rámutatott David Chiu San Francisco városi ügyvéd munkájára, aki 2024 augusztusában jogi lépéseket tett a 16 leglátogatottabb, mesterséges intelligencia által generált explicit képeket létrehozó webhely ellen.
Irodája szerint a perben megcélzott webhelyeket 2024 első felében több mint 200 millió alkalommal látogatták meg. Irodája idén júniusban közölte, hogy a webhelyek közül 10 offline állapotban van, vagy már nem érhető el Kaliforniában. A nevezett ügyvédi iroda néhány, a webhelyeket üzemeltető vállalat, köztük az egyesült államokbeli Sol Ecom and Briver és az Egyesült Királyságbeli Itai Tech Ltd.
McGlynn azt mondta, hogy még több fő AI-eszköznek, mint például Elon Musk Grok chatbotjának, „nagyon kevés védőkorlátja van”. Szerint a The Verge riportjaA Grok Imagine új „pikáns” módozata „nem habozott kiköpni a teljesen cenzúrázatlan félmeztelen videókat” Taylor Swiftről anélkül, hogy felkérték volna, hogy explicit tartalmat készítsen.
Közben, OpenAI-k Sam Altman, az OpenAI főnöke szerint a népszerű ChatGPT hamarosan engedélyezni fogja az erotikus tartalmakat.
Kanada vitákat folytat a szabályozási platformokrólpéldául arra kényszerítik a vállalatokat, hogy távolítsák el a gyermekek szexuális zaklatásának minősülő tartalmat vagy a beleegyezés nélkül megosztott intim fotókat és videókat, beleértve a mélyhamisításokat is.
A hongkongi székhelyű RainLily szervezet tanácsadókat biztosít a mesterséges intelligencia pornó áldozatainak támogatására a büntető igazságszolgáltatási eljárás során. (Beküldő: Vince Chan)
McGlynn úgy véli, ha a kormányok megvizsgálják a nagy platformokat, akkor nem kellene annyira aggódniuk a kisebbek miatt.
„Ezek az átjárók, a csővezeték. Ez a TikTokon van. A fiúk látják a nudify-alkalmazásokat hirdetve… Ha ezt abbahagynánk, akkor tényleg foglalkozhatnánk ezzel” – mondta McGlynn.
Az anyag egyre élethűbb
Vince Chan, a hongkongi székhelyű, nők elleni szexuális erőszakkal foglalkozó egyesület munkatársa elmondta, hogy egyre nehezebb azonosítani a mesterséges intelligencia által generált tartalmat, mivel a technológia gyorsan fejlődött.
Például azt mondta, hogy éppen az elmúlt két évben vált nehezebbé azonosítani az arccserét a meglévő pornográf tartalmakon.
„A hibák és a torzulások nyilvánvalóbbak voltak (néhány évvel ezelőtt), de most az eredmények nagyon élethűek lehetnek, hacsak nem vizsgálják nagyon alaposan a tartalmat” – mondta.
Az elmúlt évben szervezetéhez 11 mélyhamisított intim képekkel kapcsolatos segítségkérés érkezett, ami 38 százalékos növekedés az előző évhez képest.
A hongkongi adatvédelmi felügyelet bűnügyi nyomozást indított a Hongkongi Egyetem joghallgatóinak ügyében. Michelle Wong ügyvéd, aki a szexuális zaklatás áldozataival dolgozik, azt mondta, hogy az adatvédelmi biztos hatalma korlátozott.
Michelle Wong hongkongi ügyvéd a szexuális zaklatás és zaklatás áldozataival dolgozik, és azt mondja, hogy az adatvédelmi biztos hatalma az AI mélyhamisított pornó megállításában korlátozott. (Beküldő: Michelle Wong)
Azt mondja, hogy elsődleges céljuk a személyes adatok nyilvánosságra hozatala vagy az azokkal való visszaélés, ami megnehezíti az ügy beillesztését a hatáskörükbe.
Wong szerint Hongkong kriminalizálja a 16 éven aluli gyermekekről készült hamis fotók készítését, ezért létezik egy rendszer, amely az ilyen jellegű bűncselekményeket kezeli.
„Úgy gondolom, hogy az eredeti jogalkotói szándék az, hogy a gyermekeket meg kell védeni. De nyilvánvalóan most láthatunk egy olyan tendenciát, amely szerint valójában a 16 év feletti felnőtteket is ugyanazon jogi keretek között kell védeni” – mondta.
„Az internet meglehetősen törvénytelennek tűnik”
A 30 éves W., aki körülbelül öt évvel ezelőtt mesterséges intelligencia-pornó áldozata lett, és névtelenségét kérte, mert nem ismeri az elkövető kilétét, emlékszik, amikor barátai továbbították azokat a fotókat, amelyeket egy közvetlen üzenetben kaptak a közösségi médiában, megkérdezve, hogy ő volt-e az.
„Azt hiszik, hogy valódi. Én is azt hittem, hogy nagyon-nagyon közel áll a valósághoz azokon a képeken, beleértve az arcvonásaimat is” – mondta a CBC-nek, és egy anyajegyre mutatott az arcán.
W. akkoriban azt mondta, minden nap sírt, és rémálmai voltak. Kihagyta a munkát, túlságosan félt elhagyni a házat, mert aggódott, hogy a képeket küldő személy tudja, hol lakik.
A rendőrségen sem jelentett, mert attól tartott, hogy érzékenyen kezelik az ügyét.
W. úgy vélte, az elkövető a közösségi oldaláról készített fényképeket. Négy évvel később még mindig kíváncsi a személyazonosságukra, és azt kívánja, bárcsak letartóztatnák őket. Továbbra is ideges, hogy olyan férfiak közelednek hozzá, akiket nem ismer.
Miközben örül, hogy egyre jobban ismerik a mesterséges intelligencia által generált pornográfiát, tehetetlennek érzi magát, hogy mit lehet tenni ellene.
„Az internet meglehetősen törvénytelennek tűnik” – mondta. „Még ha egy törvényt végrehajtanak is, a végrehajtás módja nagyobb kérdés marad.”
