AI-sikkerhet handler også om evnen til å lære

I juni deltok jeg på konferansen Large Scale AI Risks (LSAIR) i Leuven. Risikotemaene var naturligvis godt representert der. Samtidig var det oppmuntrende å se hvor mye forskning som nå rettes mot løsninger.

Et av bidragene som gjorde inntrykk på meg var forskning på såkalt plasticity, eller plastisitet. Plastisitet handler om en modells evne til å fortsette å lære og tilpasse seg ny informasjon. Hypotesen er at mange av dagens AI-modeller gradvis blir mindre fleksible etter omfattende trening. Modellen fungerer fortsatt godt, men blir dårligere til å ta til seg nye perspektiver og ny kunnskap.

Forskerne bak arbeidet argumenterer for at dette også kan påvirke sikkerheten. Dersom modellen mister evnen til å lære, kan sikkerhetsmekanismer og alignment bli mer overfladiske og lettere å omgå. Hvis hypotesen stemmer, betyr det at fremtidig AI-sikkerhet ikke bare handler om flere kontrollmekanismer, men også om å bevare modellens evne til å lære riktig.

Det interessante er at dette representerer en annen tilnærming til AI-sikkerhet. I stedet for å spørre hvordan vi kan bygge flere barrierer rundt modellen, spør forskerne hvordan vi kan gjøre modellen mer mottakelig for læring og korrigering.

Mange av diskusjonene på konferansen handlet nettopp om dette skiftet: fra frykt til forståelse, og fra problembeskrivelser til forskning på løsninger. Det betyr ikke at risikoene forsvinner. Men det viser at utviklingen av tryggere AI ikke står stille, og at forskningsmiljøene aktivt arbeider med utfordringene.