balkanxvijesti.com
Related Articles
Ashley St Clair, majka jednog od djece Elona Muska, tužila je njegovu tvrtku xAI zbog seksualiziranih deepfakeova njezine slike stvorenih na platformi društvenih medija X.
Tužba podnesena u New Yorku u četvrtak tvrdi da je alat Grok AI stvorio seksualno eksplicitne slike gđe. St Clair.
Matična tvrtka X i Groka, xAI, podnijela je protutužbu protiv gđe. St Clair zbog kršenja uvjeta korištenja usluge.
X nije izravno odgovorio na upite BBC Newsa o tužbama.
“Namjeravamo pozvati Grok na odgovornost i pomoći u uspostavljanju jasnih pravnih granica za dobrobit cijele javnosti kako bismo spriječili da se AI iskoristi kao oružje za zlostavljanje”, rekla je odvjetnica gđe. St Clair, Carrie Goldberg, za BBC News.
“Proizvodnjom seksualno eksplicitnih slika djevojaka i žena bez pristanka, xAI je javna smetnja i nije razumno siguran proizvod.”
U sudskom podnesku gđe St Clair navodi se: “X korisnici iskopali su fotografije St Clair potpuno odjevene sa 14 godina i zatražili od Groka da je skine i obuče u bikini. Grok je pristao”.
Navodi se da su slike stvorene gđe St Clair bile “de facto neprivoljne”, ali da su Grokovi programeri također imali “eksplicitno znanje” o njezinom nedostatku pristanka.
Također se tvrdi da je Grok generirao sliku koja prikazuje gđu St Clair, koja je Židovka, “u bikiniju prekrivenom svastikama”.
Kao odgovor na njezine pritužbe, navodi se u podnesku, tvrtka je “uzvratila protiv nje, demonetizirajući njezin X račun i generirajući mnoštvo njezinih slika”.
Neki X premium korisnici, koji plaćaju mjesečnu naknadu, mogu dobiti dio prihoda od oglašavanja ostvarenog od objava koje dobivaju veliki angažman.
U protutužbi, xAI je izjavio da je gđa St Clair prekršila njihove uvjete pružanja usluge podnošenjem tužbe u New Yorku.
Uvjeti tvrtke kažu da se sporovi s xAI-jem moraju voditi u Teksasu.
Gđa Goldberg je za BBC News izjavila da je protutužba tvrtke bila “potresna”.
“Nikada nisam čula da je neki tuženik tužio nekoga jer ga je obavijestio o svojoj namjeri da koristi pravni sustav”, rekla je.
“A njihovo zlostavljanje prema njoj na internetu oponaša se u njihovoj pravnoj strategiji.”
Dodala je da će gđa St Clair “energično braniti” svoj slučaj u New Yorku i da će “svaka jurisdikcija priznati” pritužbu.
Gđa St Clair je prošle godine u objavi na X otkrila da je rodila dijete tehnološkog milijardera – jedno od najmanje 13 za koje se vjeruje da je on otac.
Smatra se da su gđa St Clair i Musk u borbi za skrbništvo nad svojim djetetom.
Kontinuirana kontrola
X je pod intenzivnim nadzorom korisnika, političara i regulatora diljem svijeta zbog korištenja Groka za izradu seksualiziranih slika ljudi bez pristanka.
Korisnici su mogli označiti Grokov račun u objavama ili odgovorima na objave na platformi i zatražiti od njega da uredi slike kako bi skinuo ljude.
Grok je udovoljio mnogim takvim zahtjevima za izradu fotorealističnih slika stvarnih žena u bikinijima i otkrivajućoj odjeći – a izvješća su da je također proizvodio seksualizirane slike djece.
U srijedu, prije podnošenja tužbe, gđa. St Clair rekla je za BBC Newsnight da je njezina slika “skinuta” kako bi izgledala “uglavnom gola, pognuta” unatoč tome što je Groku rekla da ne pristaje na seksualizirane slike.
Ona i druge žene čije su slike uređene pomoću Groka rekle su da stranica ne čini dovoljno u borbi protiv ilegalnog sadržaja, uključujući slike seksualnog zlostavljanja djece.
Nakon negativne reakcije, X je promijenio svoja pravila tako da samo plaćeni korisnici mogu koristiti tu funkciju – što je izazvalo kritike ženskih grupa i britanske vlade.
Tvrtka je u srijedu izjavila da svi korisnici X-a više neće moći uređivati fotografije stvarnih ljudi kako bi ih prikazivali u otkrivajućoj odjeći u jurisdikcijama gdje je to ilegalno.
Kasnije je ažurirala svoju objavu kako bi rekla da će implementirati “slične mjere geoblokiranja za aplikaciju Grok”, koja je odvojena od X-a.
U petak je The Guardian izvijestio da je i dalje moguće koristiti samostalnu aplikaciju Grok za generiranje seksualiziranih deepfakeova stvarnih ljudi i njihovo objavljivanje na X-u “bez ikakvih znakova da je moderirano”.
Vlada Ujedinjenog Kraljevstva donosi zakon kojim će biti ilegalno stvaranje intimnih slika bez pristanka, a regulator Ofcom još uvijek istražuje je li X prekršio postojeće britanske zakone.
