Odluka slijedi nakon tužbe koju su protiv tvrtke podnijeli roditelji 16-godišnjaka iz Kalifornije, koji za samoubojstvo svog sina krive ChatGPT.
„U nadolazećim mjesecima roditelji će moći povezati svoj račun s računom svog tinejdžera. Uz pravila primjerena dobi, moći će kontrolirati kako ChatGPT reagira na svog tinejdžera“, napisao je OpenAI u objavi na blogu, prema francuskoj novinskoj agenciji AFP.
ChatGPT će također slati obavijesti roditeljima kada otkrije da je njihovo dijete „u teškoj nevolji“. „Nastavljamo poboljšavati način na koji naši modeli prepoznaju i reagiraju na znakove mentalne i emocionalne nevolje“, dodala je tvrtka.
ChatGPT odveo tinejdžera u smrt
Roditelji 16-godišnjaka iz Kalifornije koji je počinio samoubojstvo prošli su tjedan podnijeli tužbu protiv OpenAI-a saveznom sudu u američkoj saveznoj državi, tvrdeći da je ChatGPT dao njihovom sinu upute za samoubojstvo i poticao ga na to.
Traže neodređenu odštetu i traže od suda da nametne sigurnosne mjere, uključujući automatsko prekidanje razgovora koji uključuju samoozljeđivanje i pružanje roditeljskog nadzora za maloljetne korisnike.
Priznali su pogreške
OpenAI je prošli tjedan priznao da je njihov chatbot pogriješio u osjetljivim slučajevima i obećao promjene. Tvrtka je naglasila da je ChatGPT obučen da preporuči korisnicima koji izražavaju suicidalne namjere da potraže pomoć od stručnjaka.
Prema vlastitim izjavama, otkrili su da se unatoč tome i drugim sigurnosnim mehanizmima robot nije ponašao kako bi trebao u osjetljivim situacijama. Sigurnosni mehanizmi najbolje funkcioniraju u kratkim razmjenama, ali mogu zakazati u dugim, istaknuli su.
