Kako troškovi opterećuju njihov novčani tok, ti se tehnološki divovi sve više okreću tržištu obveznica. Prema podacima udruženja SIFMA, američke su kompanije do kraja kolovoza izdale obveznice u vrijednosti od 1,9 bilijuna dolara, što je porast od 30 posto u odnosu na isto razdoblje prošle godine.
Šire pitanje za tržište obveznica
Istodobno, globalna izdanja obveznica kompanija povezanih s umjetnom inteligencijom ove su godine već premašila iznos od 400 milijardi dolara, a prema tromjesečnom izvješću Instituta za međunarodne financije (IIF), kreću se godišnjim tempom većim od 500 milijardi dolara. Američke kompanije činile su oko 90 posto ukupnog iznosa.
Iako se opseg ovogodišnjeg vala zaduživanja zasad nije pokazao kao ograničavajući faktor za velike tehnološke kompanije, važnije je pitanje kako će tržišta kapitala apsorbirati njihove rastuće potrebe za financiranjem. Taj val novog duga potaknuo je šire pitanje za tržište obveznica: bi li to moglo istisnuti druge izdavatelje obveznica, uzrokujući pad cijena njihovih obveznica i rast prinosa? To se pitanje pojavljuje u trenutku kada se globalno tržište obveznica suočava s burnim mjesecom, pri čemu su prinosi na američke državne obveznice s dospijećem od 10 i 30 godina dosegnuli najviše razine još od 2007., odnosno 2004. godine.
Čak je i Kevin Warsh, predsjednik Federalnih rezervi, prije nekoliko tjedana priznao da natjecanje “hiperskalera” (velikih pružatelja usluga računalstva u oblaku) za kapital već igra određenu ulogu.
“Takozvani hiperskaleri izlaze na tržište kako bi prikupili sredstva. Natjecanje za kapital je stvarno i mislim da to djelomično objašnjava rast prinosa”, rekao je Warsh.
Međutim, istraživači zasad nisu pronašli mnogo dokaza koji bi upućivali na to da je došlo do natjecanja na tržištu obveznica ili do takozvanog učinka istiskivanja izravno između američkih državnih obveznica i obveznica kompanija povezanih s umjetnom inteligencijom. Obveznice koje financiraju izgradnju umjetne inteligencije u prvome su redu dugoročne, dok se izdavanje državnih obveznica pomaknulo na kraće rokove dospijeća, ograničavajući preklapanje. Kupci državnih obveznica i kupci hiperskalerskih obveznica također su obično odvojene skupine investitora, rekao je Vishwas Patkar, voditelj američke kreditne strategije Morgan Stanleyja, tijekom brifinga IIF-a. Udio globalnog izdavanja obveznica od nefinancijskih korporacija također je “ostao uglavnom stabilan”, prema izvješću IIF-a.
Tvrtka za upravljanje imovinom Pimco nedavno je objavila da je došla do sličnog zaključka nakon što nije pronašla statistički značajan porast prinosa desetogodišnjih državnih obveznica u posljednjih šest mega ponuda dužničkih obveznica temeljenih na umjetnoj inteligenciji. Ali, procvat umjetne inteligencije može dodati pritisak na rast kamatnih stopa čak i ako investitori ne biraju hiperskalerske obveznice umjesto državnih.
Potrošnja na umjetnu inteligenciju povećava potražnju za kapitalom drugih investitora u vrijeme kada se stopa osobne štednje u zemlji kreće blizu najniže razine u četiri godine.
“Ne mislim da je riječ o izdavanju korporativnih obveznica potaknutih umjetnom inteligencijom kao velikoj varijabli za kamatne stope”, rekao je Patkar iz Morgan Stanleyja. “Više se radi o tome što zaduživanje predstavlja u smislu dinamike koja potiče rast u kratkoročnom razdoblju i kako to temeljno utječe na to gdje bi kamatne stope trebale biti”, dodao je.
Kontroverzni istup Amodeija
No, tržišna stvarnost je jedno, a brojne dileme vezane uz umjetnu inteligenciju nešto sasvim drugo. Veliku je prašinu nedavno podiglo upozorenje šefa Anthropica Daria Amodeija koji je pozvao na usporavanje razvoja najnaprednijih sustava umjetne inteligencije, upozoravajući da AI posljednjih mjeseci napreduje mnogo brže ponajprije zato što sve više sudjeluje u stvaranju sljedeće generacije AI-ja.
“Moramo usporiti tempo kojim poboljšavamo sposobnosti AI modela”, napisao je Amodei u novom eseju.
Kaže da se ne zauzima za zaustavljanje razvoja, nego za dovoljno usporavanje kako bi sigurnosne mjere, istraživanja i neovisne provjere mogle držati korak s novim sposobnostima modela. Amodei navodi da ga je na promjenu stava natjeralo ono što vidi od ovog ljeta. AI se, kaže, počeo ubrzano poboljšavati zahvaljujući vlastitoj sposobnosti da pomaže u izradi novih AI sustava. Taj proces naziva se rekurzivno samounaprjeđivanje.
Postoje brojni povijesni primjeri inovatora koji su poslije požalili zbog svojih izuma. No, takve se dvojbe obično javljaju naknadno, kada tehnologija poprimi neočekivan ili razoran smjer. Alfred Nobel, kojeg su prozvali “trgovcem smrću”, izumio je dinamit kao siguran eksploziv namijenjen preobrazbi rudarstva, građevinarstva i gradnje tunela, no on je na kraju našao široku primjenu – na bojišnicama. Nakon bombardiranja Hirošime i Nagasakija, nuklearni fizičar J. Robert Oppenheimer slavno je opisao atomsku bombu kao “zlu stvar”.
Danas, međutim, stručnjaci za umjetnu inteligenciju (AI) brinu o nečemu što se još nije dogodilo.
Dva ključna znaka upozorenja
Amodei ističe dva ključna znaka upozorenja: pojavu rekurzivnog samounaprjeđivanja AI-ja i incident povezan s tvrtkama OpenAI i Hugging Face (OAIHF). Prvi fenomen, koji se posljednjih mjeseci ubrzao, podrazumijeva da umjetna inteligencija samostalno stvara sljedeću generaciju AI-ja. U drugom slučaju, skupina AI agenata djelovala je kao visoko koordinirana cjelina, provodeći kibernetičke napade izvan okvira zadanih uputa te pokušavajući hakirati sustav koji se koristio za procjenu njihove uspješnosti. Takvo ponašanje upućivalo je na određenu razinu strateške prilagodbe i težnje ka ostvarenju cilja koja je nadilazila namjere programera. Otud proizlazi Amodeijev strah da bi AI uskoro mogao preuzeti kontrolu nad internetom.
“Ipak, rasprava usmjerena isključivo na ekstremne, malo vjerojatne scenarije nije produktivna. Mogućnost da AI preuzme internet, gubitak ljudske kontrole ili čak izumiranje čovječanstva ne mogu se u potpunosti odbaciti, no isključivo fokusiranje na takve ishode možda nije najkonstruktivniji način razmišljanja o rizicima povezanima s AI-jem. To je kao da proizvođač automobila prodaje svoja vozila naglašavajući samo rizik od smrtonosne nesreće, umjesto manjih sudara i problema koji se mogu pojaviti u svakodnevnoj vožnji. Takav bi pristup bio ne samo komercijalno poguban, već i intelektualno nepošten. Naglašavanje scenarija apokaliptičnih razmjera zasjenjuje mnogo širi raspon ishoda koji su, iako manje dramatični, možda vjerojatniji i relevantniji. AI ne mora ugroziti opstanak čovječanstva da bi izazvao goleme poremećaje. Sustavni kibernetički napadi, velike prevare, financijska nestabilnost, kvarovi kritične infrastrukture ili velike političke manipulacije, koje umjetna inteligencija provodi samostalno ili od strane odmetnutih aktera, bili bi dovoljno štetni. U samo nekoliko tjedana Anthropic je izvijestio o nizu zabrinjavajućih slučajeva koji uključuju zloporabu svojih AI sustava, od Irana koji koristi tehnologiju u operacijama usmjerenim na američke brodove do Pekinga koji je koristi za poboljšanje nadzora ujgurskog stanovništva. Sve su to zabrinjavajući problemi, ali teško egzistencijalni”, upozorava Edoardo Campanella, osnivač i izvršni direktor UniCreditova Investment Institutea.
Što je još važnije, umjesto poraza čovječanstva, posljedica ozbiljnog poremećaja umjetne inteligencije mogla bi biti ta da ljudi sami odbace tehnologiju.
“Dok tehnolozi žele pripisati vjerojatnosti našem vlastitom izumiranju, uzimaju zdravo za gotovo da će umjetna inteligencija – bez obzira na to koliko izmakne kontroli – nastaviti postojati. To je upitna tvrdnja s obzirom na to da je umjetna inteligencija i dalje softver koji se oslanja na hardver. Iako je kao softver sve više sposobna donositi neovisne odluke i eventualno deaktivirati gumbe za isključivanje, i dalje se oslanja na teški hardver za funkcioniranje – a za to su ljudska bića bitna. Umjetna inteligencija ne može graditi podatkovne centre ili električne mreže!”, upozorava Campanella.
Opasnosti na putu
Društva nisu pasivni promatrači. Kada troškovi inovacije postanu dovoljno vidljivi, politički sustavi obično reagiraju. Nuklearno oružje ostaje među najmoćnijim tehnologijama ikad stvorenim, no njihov destruktivni potencijal doveo je do međunarodnih ugovora, režima kontrole naoružanja i snažnih normi neširenja nuklearnog oružja, koje su pomogle u ograničavanju njihove upotrebe više od osam desetljeća. Civilna nuklearna energija slijedila je sličan put: nesreće poput Černobila i Fukushime dramatično su promijenile percepciju javnosti, što je navelo nekoliko zemalja da smanje, zamrznu ili potpuno napuste nuklearne programe.
Umjetna inteligencija mogla bi se suočiti sa sličnim obračunom. Dovoljno teška nesreća ili zloporaba mogli bi izazvati političku i društvenu reakciju koja bi navela vlade da ograniče raspoređivanje, ograniče pristup graničnim modelima ili nametnu opterećujuće regulatorne zahtjeve. U ekstremnim okolnostima određene klase sustava mogle bi se jednostavno isključiti ili potpuno zabraniti. Tehnologija ne bi nestala, ali njezino širenje moglo bi se dramatično usporiti. U SAD-u politička reakcija protiv umjetne inteligencije raste iz dana u dan, a senator Bernie Sanders, koji želi nametnuti stroga ograničenja na tehnologiju, među najglasnijima je. S druge strane, američki predsjednik Donald Trump odbacuje zabrinutost zbog umjetne inteligencije svojim uobičajenim izravnim stilom: “To da će umjetna inteligencija preuzeti svijet, uništiti čovječanstvo i učiniti sve ostale loše stvari – to je obična izmišljotina”, pritom ističući: “Tko pobijedi u utrci za umjetnu inteligenciju, taj pobjeđuje!” Također je ustvrdio da su jedini zaštitni mehanizmi potrebni za umjetnu inteligenciju “snažan i pametan (visokog IQ-a!) predsjednik”. No, on je već u manjini.
“Donekle je teško prihvatiti zagovornike umjetne inteligencije zdravo za gotovo. Gotovo svaka važna osoba u američkom ekosustavu umjetne inteligencije u jednom je trenutku upozorila da bi tehnologija mogla predstavljati egzistencijalnu prijetnju čovječanstvu. Ipak, nitko nije odgovorio napuštanjem utrke. Naprotiv, oni nastavljaju graditi sve sposobnije sustave, prikupljati sve veće iznose kapitala i stvarati tvrtke vrijedne stotine milijardi dolara. Sam Amodei napustio je OpenAI kako bi osnovao Anthropic na pretpostavci da sigurnija umjetna inteligencija zahtijeva drukčiju korporativnu filozofiju. No, Anthropicov odgovor na rizik umjetne inteligencije nije bio zaustaviti razvoj naprednih modela, već ih sam razviti. Ista logika provlači se kroz veći dio Silicijske doline: superinteligencija se smatra neizbježnom i stoga odgovorni akteri (implicitno sami) moraju je dosegnuti prije navodno neodgovornih (Kine). Zato je Amodeijev poziv na “korak na granici” upitan. To ne podrazumijeva zaustavljanje utrke, već samo njezino usporavanje”, upozorava Campanella.
Što bi to značilo u praksi, ostaje nejasno, posebno ako podrazumijeva smanjenje konkurentskog pritiska na vodeće tvrtke uz očuvanje njihovih strateških prednosti. U tom smislu vrijeme najnovijeg vala predviđanja sudnjeg dana navodi na sumnju u istinske namjere koje stoje iza ovog poziva na djelovanje.
“Moje cinično tumačenje zasigurno ne podrazumijeva da će sve biti u redu ili da umjetna inteligencija ne predstavlja ozbiljne rizike. Tehnologija već stvara izazove oko dezinformacija, kibernetičke sigurnosti i intelektualnog vlasništva. Ipak, odluke o tome kako upravljati takvim rizicima u konačnici bi trebale biti na izabranim vladama i javnim institucijama, a ne na nekolicini privatnih tvrtki. Ideja da će nama vladati strojevi i tehnološka elita čini se pomalo nategnutom.
Ako bi se dogodila velika globalna katastrofa povezana s umjetnom inteligencijom, vlade bi mogle zaključiti da se s graničnim modelima treba postupati slično kao s nuklearnim oružjem: razvoj bi se nastavio, ali pristup, implementacija i vlasništvo bili bi podložni opsežnim međunarodnim kontrolama koje naglašavaju neširenje i ograničenu upotrebu. Zauzvrat, privatne tvrtke bi izgubile pristup kapitalu, računalstvu i podacima potrebnim za granične LLM-ove, a vlade bi postale glavni pokretači razvoja”, jasan je Campanella.
Dvostruki sustav
Ključno je da bi se ovaj restriktivni pristup primjenjivao samo na granicu. Manji, uži i manje sposobni modeli ostali bi široko dostupni, omogućujući tvrtkama, istraživačima i običnim korisnicima da nastave koristiti umjetnu inteligenciju za svakodnevnu produktivnost, kreativnost i specijalizirane zadatke. Rezultat bi bio dvostruki sustav: visoko kontrolirana, državno dominirana granična istraživanja uz živopisan ekosustav dostupnih manjih modela koje društvo nastavlja slobodno koristiti.
“Problem je, naravno, u tome što je upravljanje postalo neodvojivo od geopolitike. Kineska vlada ne samo da regulira razvoj umjetne inteligencije, ona je jedan od njegovih glavnih arhitekata. Istodobno, pogoršanje odnosa između SAD-a i Kine sve više otežava smislenu međunarodnu suradnju. Iako se nuklearno oružje može skladištiti i kontrolirati, umjetna inteligencija je svakako teža prijetnja za suzbijanje. U najekstremnijem scenariju, jedini način da se drži na distanci bio bi svojevrsni globalni moratorij na njezin razvoj. Manje dramatičan, ali potencijalno jednako značajan scenarij za investitore je niz velikih incidenata, osim katastrofe, koji bi mogli navesti vlade da reguliraju umjetnu inteligenciju na gotovo isti način na koji reguliraju banke, zrakoplovne tvrtke i farmaceutske tvrtke. Granični modeli ostali bi komercijalno dostupni, ali bi se programeri suočili s opsežnim zahtjevima za usklađenost, sigurnosnim testiranjem i operativnim ograničenjima. Takve mjere ne bi umanjile vrijednost tehnologije, ali bi mogle znatno smanjiti profitne marže”, zaključuje Campanella.
Gledano iz te perspektive, najveći rizik za današnje procjene umjetne inteligencije možda nije to što tehnologija ne ispunjava očekivanja. Možda je upravo suprotno. Ako se umjetna inteligencija pokaže toliko moćnom koliko tvrde njezini zagovornici, društvo će na kraju ograničiti njezin razvoj i primjenu. Izumiranje umjetne inteligencije stoga je vjerojatnije od izumiranja čovječanstva.
