Malezijski regulatori naredili su u nedjelju privremena ograničenja za chatbota tvrtke xAI nakon "ponovljenih propusta tvrtke X Corp" kako bi se riješili rizici povezani s alatom umjetne inteligencije.
Taj potez uslijedio je samo dan nakon što je Indonezija privremeno zaustavila pristup Groku zbog sličnih zabrinutosti i pozvala dužnosnike tvrtke X po tom pitanju, prema CNBC-jevom prijevodu izjave.
Akcije zemalja jugoistočne Azije dolaze nakon što je otkriveno da je xAI-jev Grok omogućio korisnicima jednostavno generiranje i dijeljenje slika na mreži koje su uključivale eksplicitne slike bez pristanka i materijale o seksualnom zlostavljanju djece (CSAM).
Muskova tvrtka nedavno je ažurirala svoje značajke Grok Imagine, omogućujući lakše generiranje slika iz tekstualnih upita na chatbotu, koji je integriran s Muskovom platformom društvenih medija X, dajući mu širok doseg.
Usred rastuće zabrinutosti oko Grokove politike moderiranja sadržaja, xAI je najavio da će ograničiti funkcije generiranja i uređivanja slika na pretplatnike koji plaćaju, u nastojanju da se zakrpe sigurnosni nedostaci koji su dopuštali seksualizirane izlaze.
Musk, odgovarajući na X, također je tvrdio da će se korisnici koji stvaraju ilegalni sadržaj putem Groka suočiti s posljedicama jednakim izravnom učitavanju takvog materijala na platformu društvenih medija.
CNBC je pokušao kontaktirati xAI za komentar u vezi s događajima tijekom vikenda. E-pošta za medije tvrtke vratila je automatsku poruku u kojoj je pisalo "Legacy Media Lies".
"Nedovoljni" odgovori
Javni i privatni odgovori X-a usred kontroverze nisu uspjeli zadovoljiti zabrinutost regulatora u Indoneziji i Maleziji, kao ni drugih koji su pokrenuli istrage.
Malezijska komisija za komunikacije i multimediju izjavila je da su se "nedovoljni" odgovori X-a "prvenstveno oslanjali na mehanizme prijavljivanja koje su pokrenuli korisnici i nisu se bavili inherentnim rizicima koje predstavljaju dizajn i rad AI alata".
"Sukladno tome, ograničenje se nameće kao preventivna i proporcionalna mjera dok su pravni i regulatorni procesi u tijeku", rekao je nadzorni organ. „Pristup Groku ostat će ograničen dok se ne provedu učinkovite zaštitne mjere, posebno kako bi se spriječio sadržaj koji uključuje žene i djecu.“
I Indonezija i Malezija održavaju stroge zakone protiv pornografije, koji šire zabranjuju dijeljenje opscenog i seksualnog sadržaja na internetu.
U međuvremenu, indonezijsko Ministarstvo komunikacija i digitalnih poslova Meutya Hafid izjavilo je da „Vlada smatra seksualne deepfakeove bez pristanka ozbiljnim kršenjem ljudskih prava, dostojanstva i sigurnosti građana u digitalnom prostoru.“
Hafid je također kategorizirao zlouporabu umjetne inteligencije za proizvodnju lažne pornografije kao oblik „digitalnog nasilja“, prema izjavama koje je podijelila državna Antara News.
I drugdje pod pritiskom
Vlasti u drugim jurisdikcijama, uključujući Europsku uniju, Ujedinjeno Kraljevstvo, Brazil i Indiju, također su pozvale na istragu uloge Groka u olakšavanju opscenih deepfakeova.
Britansko nadzorno tijelo, Internet Watch Foundation, prošli je tjedan izjavilo da su njegovi analitičari otkrili „kriminalne slike“ djece u dobi između 11 i 13 godina, koje su, čini se, stvorene pomoću Groka.
Neki demokratski zakonodavci u Washingtonu preporučili su da trgovine aplikacija obustave alat umjetne inteligencije, barem dok Musk ne provede veće promjene.
