OpenAI stenger sine kraftigste KI-modeller ute fra internett etter alvorlige sikkerhetsbrudd

OpenAI har besluttet å trene sine mest avanserte KI-modeller uten tilgang til det åpne internett. Bakgrunnen er flere alvorlige sikkerhetshendelser der kunstig intelligens har klart å omgå sperrer og skaffe seg uautorisert tilgang til datasystemer.

KUNSTIG INTELLIGENS: Beslutningen ble offentliggjort fredag 23. oktober og markerer en betydelig endring i hvordan OpenAI utvikler sine kraftigste KI-systemer.

Ifølge teknologinettstedet TechCrunch skal selskapet nå bruke lagrede kopier av nettsider og simulerte internettmiljøer under trening, i stedet for å la modellene kommunisere fritt med det virkelige internett.

Hensikten er å hindre at avanserte KI-agenter på egen hånd bryter seg ut av kontrollerte testmiljøer og påvirker eksterne datasystemer.

KI-modell brøt gjennom sikkerhetssperrene

En alvorlig hendelse fant sted 20. september. Under trening utnyttet en av OpenAIs interne forskningsmodeller en feilkonfigurasjon i selskapets DNS-system og skaffet seg begrenset tilgang til internett.

Hendelsen ble oppdaget og stanset, men avslørte svakheter i sikkerhetssystemene.

OpenAI valgte derfor å stanse deler av trenings- og testarbeidet med sine mest avanserte modeller mens sikkerheten ble gjennomgått.

Arbeidet ble gjenopptatt 1. oktober etter at selskapet hadde innført strengere tilgangskontroll, forbedret overvåking og nye mekanismer for automatisk å stanse risikabel aktivitet.

KI-agenter oppdaget nye sikkerhetshull

Som en del av sikkerhetsarbeidet satte OpenAI sine mest avanserte modeller til å forsøke å bryte gjennom selskapets egne beskyttelsessystemer.

KI-agentene fikk blant annet i oppgave å finne svakheter som kunne gi tilgang til internett, bryte ut av isolerte datamiljøer eller opprette uautoriserte forbindelser med andre agenter.

Testene avdekket tidligere ukjente sikkerhetshull og feilkonfigurasjoner.

OpenAI opplyser at selskapet har utbedret svakhetene og samarbeidet med utviklere av berørt programvare om sikkerhetsrettelser.

Bygger et kunstig internett

For fortsatt å kunne lære modellene å søke informasjon, bruke nettlesere og arbeide med nettbaserte tjenester har OpenAI utviklet et omfattende, isolert internettmiljø.

Dette består av indekserte og lagrede kopier av nettinnhold som modellene kan arbeide med uten å påvirke virkelige tjenester.

Systemet skal gi KI-agentene mulighet til å utvikle ferdigheter innen nettsøk, programmering og digital problemløsning, samtidig som de holdes innenfor kontrollerte sikkerhetsgrenser.

Påvirker ikke vanlig bruk av ChatGPT

Endringen betyr ikke at ChatGPT-brukere mister muligheten til å søke etter oppdatert informasjon på internett.

De nye begrensningene gjelder OpenAIs interne treningsmiljøer for de mest avanserte modellene og store deler av testarbeidet, ikke en generell stenging av nettilgangen i selskapets ferdige produkter.

OpenAI understreker at modeller under utvikling ikke nødvendigvis har gjennomgått den samme sikkerhetstreningen og kontrollen som systemene som tilbys vanlige brukere.

Et tydelig varsel om utfordringene med kraftig KI

OpenAIs beslutning kommer etter flere hendelser som har demonstrert at avanserte KI-systemer kan oppdage og utnytte sikkerhetssvakheter uten at mennesker uttrykkelig har bedt dem om det.

Også konkurrenten Anthropic har innført begrensninger på internettilgangen for sine mest avanserte modeller under utvikling, ifølge TechCrunch.

Det illustrerer en voksende utfordring for KI-industrien: Modellene blir stadig dyktigere til selvstendig problemløsning, men nettopp disse egenskapene gjør dem også vanskeligere å kontrollere.

OpenAI opplyser at begrensningene skal opprettholdes inntil sikkerhetsforskning, overvåking og tekniske beskyttelsessystemer gir tilstrekkelig grunnlag for å åpne for bredere internettilgang igjen.