Professor med KI-advarsel: – Er som kjernefysiske våpen

Ikke bare amerikanske tek-giganter, men også flere av verdens fremste KI-forskere frykter at den raske teknologiske utviklingen kan ende i katastrofe.

Washington: – Det er en grunn til at selskaper sier at dette går for raskt, at vi mister kontrollen, sier professor Yoshua Bengio til nyhetsbyrået AFP.

– Folk som meg har forventet dette lenge, legger han til.

Han uttaler seg i etterkant av flere dramatiske advarsler fra ansatte i Anthropic, en av de viktigste aktørene i utviklingen av kunstig intelligens (KI).

Én ansatt sa opp jobben og hevdet at de som utvikler KI, tror teknologien kan utslette menneskeheten innen få år.

Anthropic-sjef Dario Amodei gikk offentlig ut og ba om strengere regulering av egen næring og lavere tempo i KI-utviklingen. Han fikk støtte fra Elon Musk og Sam Altman, sjefen for KI-giganten OpenAI.

Skal diskuteres i FN

Advarslene har gitt KI-risiko et kraftig løft på den internasjonale dagsordenen, og om få dager skal temaet diskuteres under FNs hovedforsamling.

Statsminister Jonas Gahr Støre (Ap) har allerede drøftet situasjonen med kolleger i flere andre land.

Men noen stiller seg skeptiske til advarslene og spør hva som er motivet bak dem. Frankrikes finansminister Roland Lescure mener de amerikanske KI-gigantene har egeninteresse av å be om mer regulering.

– Dette får alle bak dem til å sakke farten, slik at de kan beholde førsteplassen, sier han til Reuters.

Andre beskylder KI-gigantene for å bruke «dommedagsprofetier» som en uvanlig form for markedsføring.

Både Amodei, Altman og Musk har tidligere advart om «eksistensiell risiko» som følge av KI.

– Internasjonal utfordring

Advarslene om mulige fatale følger av KI-utviklingen kommer imidlertid også fra eksperter som ikke selv er knyttet til de store selskapene.

Bengio er professor ved Universitetet i Montréal i Canada og leder for en ikke-kommersiell organisasjon som håper å utvikle trygg KI. Han er redd KI-modeller etter hvert blir i stand til å hacke seg inn i selskaper over hele verden.

Et mulig frampek kom tidligere i år, da en «sverm» av OpenAIs KI-agenter på eget initiativ hacket både OpenAI og et annet KI-selskap.

Å kontrollere KI er ifølge Bengio en stor internasjonal utfordring.

– Slik som kjernefysiske våpen er en internasjonal utfordring, sier han.

De siste årene har han forsøkt å få politiske ledere til å se alvoret i situasjonen, og i fjor hadde han et møte med Jonas Gahr Støre i Oslo.

Advart i flere år

Siden Bengio spilte en viktig rolle i utviklingen av det som kalles kunstige nevrale nettverk, er han omtalt som en av «gudfedrene» bak kunstig intelligens. En annen forsker med samme status er nobelprisvinner Geoffrey Hinton – og også han har i flere år advart om at KI-utviklingen kan ende i katastrofe.

Nylig fikk han spørsmål fra BBC om anslaget til en Anthropic-ansatt som mener det er mer enn 10 prosent risiko for at KI tar livet av alle mennesker på kloden innen 2040.

– 10 prosent virker ikke som et urimelig anslag, svarte Hinton, som la til at det er svært vanskelig å beregne dette.

Han ser for seg flere mulige dystre scenarioer, som at KI-modeller iverksetter massive dataangrep eller utvikler nye, farlige virus.

– Grunnløse påstander

En tredje sentral forsker som er bekymret, er Stuart J. Russell, professor ved Berkeley-universitetet i California og forfatter av en mye brukt lærebok om KI for studenter.

Allerede i 2014 spurte han om det på sikt ville være mulig for mennesker å kontrollere KI. Også den kjente fysikeren Stephen Hawking stilte seg bak denne advarselen.

Samtidig er det stor uenighet i forskermiljøene om hvor stor trusselen fra KI egentlig er. Noen avviser det de kaller dommedagsprofetier uten hold i virkeligheten.

– Dette er en del av et mønster av grunnløse påstander om makt, sa professor Emily M. Bender ved University of Washington til BBC tidligere i år.

Hun beskyldte KI-selskapene for å bruke katastrofescenarioene til å avlede oppmerksomhet fra reelle problemer som selskapene allerede forårsaker.

(©NTB)