Priopćenje od samo jedne rečenice s potpisima stotinjak stručnjaka za umjetnu inteligenciju, uključujući Sama Altmana čija je tvrtka stvorila ChatGPT, upozorilo je kako razmatranje rizika od te tehnologije mora biti „globalni prioritet poput drugih prijetnji društvu kao što su pandemije i nuklearni rat“.
ChatGPT, trenutno najrašireniji alat umjetne inteligencije (AI), sposoban je po uputama korisnika generirati eseje, poeme i odgovarati na njihova pitanja o bilo kojoj temi.
Velik uspjeh tog programa potaknuo je 'zlatnu groznicu' milijardi dolara investicija u područje AI-ja, no kritičari i stručnjaci upozoravaju na njegove opasnosti.
Raširena je zabrinutost da bi 'chatbotovi' mogli preplaviti internet dezinformacijama, da će pristrani algoritmi stvarati rasistički sadržaj ili da će AI automatizacija dokrajčiti niz industrija.
Superinteligentni strojevi
„Izbjegavanje prijetnje od izumiranja zbog umjetne inteligencije trebao bi biti globalni prioritet poput drugih prijetnji društvu kao što su pandemije i nuklearni rat“, priopćenje je objavljeno na stranici američkog neprofitnog Centra za AI sigurnost.
Potpisalo ga je više od stotinu stručnjaka za AI, ali i drugih javnih ličnosti poput bivše estonske predsjednice Kersti Kaljulaid ili glazbenice Grimes, bivše supruge Elona Muska. Među potpisnicima su i stručnjaci tvrtki poput Googlea i Microsofta.
Centar ističe da je cilj „sažetog priopćenja“ pokretanje rasprave o opasnostima tehnologije.
Dio potpisnika, poput Geoffreya Hintona koji je ranije razvijao tehnologiju za podlogu mnogih AI sustava, i ranije su davali slična upozorenja.
Najviše ih brine razvoj takozvane opće umjetne inteligencije (AGI), što je širok termin za trenutak kad će strojevi postati sposobni programirati sami sebe i obavljati širok raspon djelatnosti.
Stručnjaci strahuju da ljudi tada više neće imati kontrolu nad tim superinteligentnim strojevima što bi moglo imati katastrofalne posljedice na život na Zemlji.
Ovo priopćenje dolazi nekoliko mjeseci nakon što su Musk i niz znanstvenika objavili otvoreno pismo s pozivom da se pauzira razvoj takvih tehnologija dok se ne utvrdi da su sigurne.
Ono je naišlo na kritike jer je dio javnosti smatrao da su upozorenja o društvenom kolapsu značajno pretjerana.
Američka računalna lingvistica Emily Bender, koatorica utjecajnih radova kritičnih prema AI-ju, rekla je da je pismo iz ožujka, s potpisima stotina istaknutih ličnosti, prepuno „AI pompe“.
Iznenađujuće nepristrano
Bender i drugi kritiziraju AI tvrtke jer odbijaju objaviti izvore svojih podataka ili otkriti načine funkcioniranja njihovih modela – što je takozvani problem 'crne kutije'.
Kritizira ih se zbog mogućnosti da je AI 'treniran' na rasističkom, seksističkom ili politički pristranom materijalu, piše agencija France Presse.
Altman, trenutno na turneji svijetom u pokušaju oblikovanja rasprave o AI-ju, nekoliko je puta ukazao na opasnost za svijet od tehnologije koju razvija i njegova tvrtka.
„Ako nešto pođe po krivu s AI-jem, neće vam pomoći gas maska“, rekao je prošli petak manjoj skupini novinara u Parizu. No branio je odluku tvrtke da ne objavi svoje metode, kazavši da je važno samo prolazi li tehnologija na „rasnom testu“, gdje se pokazalo da je „iznenađujuće nepristrana“.
