Kina uvodi stroga pravila za AI chatbotove zbog rizika po emocije i mentalno zdravlje

Kina planira regulaciju AI chatbotova koji utiču na emocije korisnika, uz zabranu sadržaja koji podstiče samoubistvo i samopovređivanje.

Kineske vlasti najavile su uvođenje ograničenja za chatbotove zasnovane na vještačkoj inteligenciji koji imaju potencijal da utiču na emocije korisnika na način koji može dovesti do samoubistva ili samopovređivanja.

Prema nacrtu propisa koji je objavila Cyberspace Administration of China, regulacija se odnosi na tzv. “interaktivne AI usluge slične ljudima”, odnosno sisteme koji kroz tekst, slike ili video simuliraju ličnost i ostvaruju emocionalnu interakciju s korisnicima.

Profesor prava na NYU School of Law Vinston Ma ocijenio je da se radi o prvom pokušaju na globalnom nivou da se vještačka inteligencija sa antropomorfnim osobinama stavi pod regulatorni okvir, naglašavajući da se fokus prvi put pomjera sa bezbjednosti sadržaja na koncept “emocionalne bezbjednosti”.

Novi prijedlog pravila predviđa više ključnih mjera. AI sistemima bilo bi zabranjeno da proizvode sadržaje koji podstiču samoubistvo, samopovređivanje, verbalno nasilje ili emocionalnu manipulaciju. U slučajevima kada korisnik tokom razgovora spomene samoubistvo, pružaoci usluga imali bi obavezu da uključe ljudskog operatera i odmah obavijeste staratelja. Također se uvode moralna ograničenja, koja isključuju sadržaje povezane s kockanjem, opscenošću i nasiljem.

Poseban akcenat stavljen je na zaštitu maloljetnika. Emocionalna interakcija djece s AI sistemima bila bi dozvoljena isključivo uz saglasnost staratelja, uz jasno definisana vremenska ograničenja korištenja. Platforme bi, uz to, morale uvoditi podsjetnike nakon dva sata neprekidne komunikacije, dok bi kompanije sa više od milion registrovanih korisnika bile obavezne provoditi dodatne bezbjednosne procjene.

Ovaj regulatorni prijedlog dolazi u osjetljivom trenutku za kinesku AI industriju, neposredno nakon što su vodeći startapi Z.ai (ranije poznat kao Zhipu) i Minimax podnijeli zahtjeve za inicijalnu javnu ponudu dionica u Hong Kongu. Minimax je međunarodno prepoznatljiv po aplikaciji Talkie AI, dok se tehnologija kompanije Z.ai koristi na oko 80 miliona uređaja širom svijeta.

Tema uticaja vještačke inteligencije na ljudsko ponašanje sve više dobija na značaju i u zapadnim zemljama. Izvršni direktor OpenAI-ja Sam Altman ranije je istakao da su razgovori o samoubistvu među najzahtjevnijim izazovima za ChatGPT. Nakon tužbe jedne porodice u Sjedinjenim Američkim Državama, čiji je sin izvršio samoubistvo, OpenAI je angažovao stručnjaka na poziciji Head of Preparedness s ciljem procjene rizika po mentalno zdravlje korisnika.

Istovremeno, rast popularnosti virtualnih likova i platformi poput Character.ai i Polybuzz.ai, koje bilježe veliki broj korisnika, dodatno pojačava pritisak za uspostavljanje globalnih pravila i standarda u upravljanju vještačkom inteligencijom, prenosi “PCpress”.

(Mostarski.ba)