Mreža Iks blokirala Grok – svoju alatku veštačke inteligencije – za stvaranje eksplicitnih slika

„Primenili smo tehnološke mere da sprečimo da se nalogu Grok dozvoli izmena slika stvarnih ljudi u otkrivajućoj odeći kao što su bikinii, donje rublje ili drugo,“ navodi se u saopštenju.

Propis se odnosi na sve korisnike, uključujući i na one koji plaćaju pretplatu koji imaju pristup većim mogućnostima na toj platformi..Kompanija je saopštila da je takođe ograničila stvaranje ili izmenu plaćajućim pretplatnicima samo da bi osigurala da „pojedinci koji pokušaju da zloupotrebe nalog Grok da prekrše zakon ili njene politike mogu da odgovaraju“.

Grokov takozvani „začinjen“ režim rada dozvoljavao je korisnicima da stvaraju duboko lažne seksualizovane slike, što je dovelo do osuda vlada širom sveta.

Malezija i Indonezija preduzeli su pravne radnje da blokiraju pristup Groku. Britanija i Evropska unija pokrenuli su istragu o potencijalnim kršenjima zakona o onlajn sigurnosti. Francuska i Indija takođe su izdale upozorenja i zahtevale stroge kontrole. Brazil je pozvao na istragu o zloupotrebi Groka.

U objavi iz Kalifornije navedeno je da su uređivačke funkcije Groka olakšavale proizvodnju lažnih intimnih slika bez saglasnosti koje se koriste da se uznemiravaju žene i devojčice preko interneta, uključujući i preko medijske platforme Iks.

„Lavina izveštaja o seksualno eksplicitnom materijalu bez saglasnoti koji je proizveo xAI i objavio onlajn poslednjiih nedelja je šokantan. Taj materijal koji prikazuje žene i decu obnažene u seksualno eksplicitnim situacijama krošćen je da uznemirava ljude širom interneta“, naveo je u saopštenju javni tužilac Kalfornije Rob Bonta.

„Imamo nula tolerancije za stvaranje na osnovu veštačke inteligencije i širenje intimnih slika bez saglasnoti ili materijala o seksualnom zlostavljanju dece“, rekao je on.