California regulerer nå KI-chattetjenester

Politikk: California-guvernør Gavin Newsom underskrev loven på delstatsnivå mandag. Loven gjør at selskapene som driver tjenestene i California, tvinges til å innføre kritiske sikkerhetstiltak når det gjelder samhandling med KI-tjenestene. Det åpner også opp for at selskapene må stå rettslig til ansvar gjennom søksmål dersom manglende tiltak får tragiske utfall.

I USA har flere saker blitt offentlig kjent der tenåringer har brukt KI-tjenestene kort tid før de begikk selvmord.

– Vi har sett noen virkelig grusomme og tragiske eksempler på unge personer som har blitt skadet av uregulert teknologi, og vi nekter å se på mens selskaper fortsetter uten nødvendige grenser og ansvarlighet, sier Newsom.

Lovene i California skal sørge for at slike chattetjenester ikke lenger kan snakke med barn eller andre som er sårbare for selvmord. Den skal også sørge for at folk ikke kan få hjelp til å planlegge selvmord. Videre skal lovene ansvarliggjøre selskaper rettslig til å beskytte brukere som uttrykker selvmordstanker til chattetjenestene.

Det finnes ikke nasjonale lover for å regulere farer ved KI-tjenester i USA, og Det hvite hus har forsøkt å blokkere delstater fra å utvikle egne lover.

(©NTB)