A nőket lemeztelenítő appok simán átverik a Facebookot

Mark Zuckerbergnek – és persze vele a Metának, Facebooknak, Instagramnak és a többi cégének – a minap váratlan megvilágosodása támadt: leállítja tényellenőrző (fact-checking) programjait, és „visszaállítja a szólásszabadságot” a Meta összes platformján, valamint elismeri, hogy a gyakorlatuk „túl messzire ment”. Hogyhogy nem, hirtelenjében egy lendülettel átalakítja eddig fennen hirdetett tartalommoderálási politikáját, megszünteti a politikai témákra, bevándorlásra és nemi identitásra vonatkozó korlátozásokat, elbocsátja a közösségimédia-platform tényellenőrzőit.

Damaszkuszi útján szembefordult eddigi elveivel, és igazodik Amerika friss kívánalmaihoz. Ha már így megigazult, vajon politikai pálfordulásával együtt szakít-e másik hírhedt gyakorlatával, a prüdériával? A felsorolhatatlanul sok képtelenséggel, melynek keretében például férfimellekkel kellett illusztrálni a Facebookon a rákellenes emlővizsgálatot, vagy világhírű festők képeinek posztolását tiltották le, mert mondjuk egy mellbimbó is szerepelt a képen?

Nem, a prűd tiltások továbbra is érvényben maradnak – kivéve, ha a hirdető fizet.

Valódi emberekről MI-vel generált meztelen fotókat készítő szolgáltatások hirdetései a mai napig köröket vernek a Meta moderációs erőfeszítéseire. Sőt, jelenleg a nem konszenzusos (a másik fél beleegyezése nélkül készült) csupasz képeket készítő MI-alkalmazások

Például a Crushmate vagy a Crush AI néven ismert meztelenítő app szeptember eleje óta vásárol és tesz közzé hirdetéseket a Facebookon, az Instagramon és más Meta-platformokon. Mint a Faked Up beszámol, a Similarweb internetes forgalomelemző cég szerint a Crush forgalmának 90 százalékát a Facebookról és az Instagramról szerezte be.

Szeptember óta ugyan a Meta eltávolított néhány ilyen hirdetést, de ugyanaz a három domain, amelyeket a Meta-platformokon hirdetnek és a Crushmate szolgáltatásaira irányítanak át, azóta körülbelül 5000 hirdetéssel rendelkezik a Meta felületein.

A legutóbbi hirdetések többsége azonos megoldást használ. Készítenek egy videót, amelyet egy nő tesz közzé az Instagramon vagy a TikTokon, és megmutatják, hogyan tudja a felhasználó bármilyen képkockán megállítani a videót, és meztelen fotót készíteni az adott pillanatról. A még mindig aktív hirdetések közül kiviláglik a népszerű OnlyFans-munkás, Sophie Rain, aki nemrég került címlapokra azzal, hogy egy év alatt 43 millió dollárt keresett az OnlyFanson. A másik arc a hirdetéseken Mikayla Demaiter, egy modell, akinek 3,2 millió követője van az Instagramon.

Azután vannak olyan hirdetések is bőven, amelyeken más, valódi nők szerepelnek, és jócskán akadnak – legalábbis szemre – mesterséges intelligencia generált hölgyek, akiknek az alkalmazás „törölte” a ruháját.

Mint a 404 Media beszámol, a korábban bepanaszolt „nudify” alkalmazást hirdető appokat a Meta eltávolította. Felszámolta azokat a kapcsolódó Facebook-oldalakat is, amelyek megvásárolták a hirdetéseket, de a Crushmate talált egy egyszerű megoldást, amely egyértelműen kifizetődik számára: több Facebook-oldalt hoz létre mesterséges intelligencia által generált profilképekkel, amelyek úgy néznek ki, mintha valódi emberek lennének, majd a nevükben új, másfajta hirdetéseket vásárol. Az általuk készült URL-ek azonban már a Crushmate webhelyeire irányítanak át. Ha a politikai tartalmakat eddig pillanatok alatt sikerült a Meta algoritmusainak kiiktatni, vajon miért nem sikerül ez a fizetett meztelenítéssel?

Ezek az alkalmazások a generatív mesterséges intelligencia legkárosabb megoldásai közé tartoznak, mivel nagyon megkönnyítik a nem konszenzusos képek készítését bárkiről. Az elmúlt két évben, az MI felfutása óta láttunk számos esetet, amikor ezeket az appokat például kiskorúak használják más kiskorúak lecsupaszított képeinek létrehozására.

Tavaly egy felmérés szerint 10 gyerekből 1 számolt be arról, hogy barátai vagy osztálytársai mesterséges intelligencia eszközöket használtak más gyerekek meztelenségének megmutatására. A Crushmate-hirdetések azt jelzik, a kiskorúaknak nem kell az internet sötét zugaiban kutakodniuk, hogy az erre szolgáló eszközöket megtalálják. A Meta pénzt kap azért, hogy népszerűsítse azokat.