Chatbotovi pokretani umjetnom inteligencijom na Telegramu zloupotrebljavaju se za stvaranje deepfakeova, generirajući nage i eksplicitne slike stvarnih ljudi. Oko 4 milijuna korisnika mjesečno je u interakciji s ovim botovima. Ovi deepfakeovi predstavljaju značajne rizike, posebno za mlade djevojke i žene, koji dovode do seksualnih ucjena. Unatoč zabrinutosti, do ovih štetnih botova lako je pristupiti.
Deepfake tehnologija brzo je napredovala posljednjih godina, što izaziva ozbiljnu zabrinutost zbog njezine potencijalne zlouporabe. Jedan od alarmantnih događaja je korištenje deepfake botova na platformama poput Telegrama.
Ti se botovi sve više koriste za stvaranje manipulativnog sadržaja, koji često uključuje realistične slike ili videozapise pojedinaca bez njihovog pristanka. Takve prakse ne samo da narušavaju osobnu privatnost, već imaju i šire implikacije na digitalnu sigurnost i povjerenje u internetsku komunikaciju.
Ovaj članak istražuje sve veću upotrebu deepfake botova na Telegramu, kako krše privatnost i potencijalne opasnosti koje predstavljaju za pojedince i društvo u cjelini.
Deepfakeovi koriste tehnike umjetne inteligencije (AI) i strojnog učenja (ML), posebno vrstu modela poznatog kao generativne protivničke mreže (GAN). GAN generiraju vrlo realističan sintetički sadržaj treniranjem na velikim skupovima podataka, omogućujući AI modelima da oponašaju značajke iz stvarnog života kao što su lica, glasovi i izrazi. Iako je deepfake tehnologija u početku privukla pozornost zbog svojih kreativnih i zabavnih svrha, brzo je postalo očito da se može iskoristiti za štetne aktivnosti.
S vremenom je stvaranje deepfakea evoluiralo iz visoko tehničkog procesa u proces koji se može postići uz minimalnu stručnost. Alati otvorenog koda i botovi za generiranje deepfakea na platformama za razmjenu poruka poput Telegrama olakšali su pojedincima stvaranje i distribuciju lažnog sadržaja sa zlonamjernom namjerom. Ovi botovi omogućuju korisnicima učitavanje slika ili videozapisa, koje bot zatim mijenja kako bi stvorio realistične, ali lažne prikaze.
Telegram, platforma za razmjenu poruka poznata po svom fokusu na privatnost i enkripciju, također je postala žarište za aktivnosti povezane s deepfakeom. Deepfake botovi koji rade na Telegramu često korisnicima pružaju mogućnost generiranja lažnog sadržaja u nekoliko sekundi. Ovi botovi mogu stvarati manipulirane videozapise ili slike pojedinaca, često korištene na štetne načine kao što su pornografija bez pristanka, krađa identiteta ili kampanje dezinformacija.
Ovi deepfake botovi rade uglavnom nekontrolirano, a anonimnost koju pružaju platforme poput Telegrama otežava praćenje ili kontrolu širenja takvog sadržaja.
Žrtve često nemaju saznanja da je njihov imidž ili sličnost korišten za stvaranje lažnog sadržaja. Ovaj oblik digitalne manipulacije može rezultirati ozbiljnim emocionalnim stresom i nepovratnom štetom osobnom ugledu.
Jedna od najuznemirujućih primjena deepfake tehnologije je stvaranje pornografskog sadržaja bez pristanka. Deepfake botovi korišteni su za postavljanje lica pojedinaca na eksplicitni materijal.
Deepfakeovi se mogu koristiti za stvaranje lažnih videozapisa ili slika u svrhu krađe identiteta, što predstavlja rizik za financijske prijevare i druge kriminalne aktivnosti. Manipulirani sadržaj može prevariti druge da povjeruju da je pojedinac uključen u nezakonite radnje.
Žrtve deepfakea često se nađu na meti uznemiravanja ili ucjene. Lakoća s kojom deepfake botovi na Telegramu generiraju lažni sadržaj otvara vrata zlonamjernim akterima da stvore klevetnički ili štetni materijal, koji mogu koristiti za iznuđivanje novca ili usluga od žrtve.
Deepfakeovi se lako mogu koristiti za stvaranje obmanjujućeg sadržaja, pridonoseći širenju dezinformacija. To predstavlja širu društvenu zabrinutost jer takav sadržaj može narušiti percepciju javnosti i manipulirati javnim mnijenjem, posebno u političkom kontekstu.
Telegram se pozicionirao kao sigurna platforma za razmjenu poruka s jakim fokusom na privatnost i enkripciju. Međutim, ovaj fokus na privatnost također predstavlja izazove pri rješavanju problema kao što su deepfake botovi. End-to-end enkripcija platforme, iako ključna za sigurnu komunikaciju, otežava moderatorima ili trećim stranama praćenje ili presretanje štetnih aktivnosti kao što je distribucija deepfakeova.
Štoviše, Telegram ima reputaciju da dopušta viši stupanj anonimnosti u usporedbi s drugim platformama za razmjenu poruka. Ova anonimnost stvara plodno tlo za širenje deepfake botova i drugih nezakonitih aktivnosti. Unatoč tim izazovima, platforme poput Telegrama pod sve su većim pritiskom vlada i zagovornika privatnosti da poduzmu mjere i provedu snažnije mjere za suzbijanje zlouporabe deepfake tehnologije.
