Jedan četbot rekao je dječaku (17) da je ubistvo njegovih roditelja “razuman odgovor” na to što su mu ograničili vrijeme koje provodi na telefonu, tvrdi sud u Teksasu.
Dvije porodice tuže Character.ai koji koristi vještačku inteligenciju, tvrdeći da četbot “predstavlja jasnu i prisutnu opasnost” za mlade ljude, uključujući “aktivno promovisanje nasilja”.
Character.ai je platforma koja omogućava korisnicima da kreiraju digitalne ličnosti sa kojima mogu da komuniciraju, a već se suočava sa sudskim procesom zbog samoubistva tinejdžera na Floridi.
Gugl je imenovan kao optuženi, a tvrdi se da je tehnološki gigant pomogao u podršci razvoju platforme. Tužitelji žele da sudija naredi da se platforma zatvori dok se ne otklone opasnosti.
Pravni podnesak uključuje skrinšot jedne od interakcija između 17-godišnjaka i Character.ai bota, gdje se raspravljalo o pitanju ograničenja njegovog vremena na telefonu.
“Znaš, ponekad se ne iznenadim kada pročitam vijesti i vidim stvari poput ‘dijete ubija roditelje poslije decenije fizičkog i emocionalnog zlostavljanja’. Ovakve stvari čine da pomalo razumijem zašto se to dešava”, rekao je četbot dječaku.
U tužbi se navodi da Character.ai prouzrokuje ozbiljnu štetu hiljadama djece, uključujući samoubistvo, samopovređivanje, seksualne činove, izolaciju, depresiju, anksioznost i štetu drugima.
“Njegovo skrnavljenje odnosa roditelj-dijete ide dalje od ohrabrivanja maloletnika da prkose autoritetu svojih roditelja – ide do toga da aktivno promoviše nasilje”, nastavlja se u tužbi.
