Kunstig intelligens og sikkerhetsutfordringer – et nasjonalt perspektiv
Klas H. Pettersen – direktør, Simula Metropolitan Center for Digital Engineering
Kunstig intelligens (KI) er i rask utvikling, og vi har nylig gått inn i en tidsepoke preget av agentisk KI. Dette innebærer at avanserte KI-systemer kan operere på nettet og bruke programmer og digitale verktøy for å oppnå overordnede mål gitt av brukere. Disse systemene kan bli svært kraftige i løpet av de neste årene, og de kan utgjøre en reell trussel – for enkeltpersoner, bedrifter, offentlig sektor og nasjoner.
For å håndtere slike trusler har en rekke land, inkludert Storbritannia og USA, etablert egne AI Security Institutes. Mange av disse ble etablert i kjølvannet av det britiske AI Safety Summit i 2023, der internasjonal regulering og sikkerhet sto på agendaen. I et påfølgende toppmøte ble det etablert et globalt nettverk av slike institutter i samarbeid mellom land som Storbritannia, USA, Japan, Frankrike, Tyskland, Italia, Singapore, Sør-Korea, Australia, Canada og EU gjennom EU AI Office. Dette nettverket har som mål å belyse sikkerhetsutfordringer knyttet til kunstig intelligens, inkludert cybersikkerhet. Senterne er forskningsinstitutt med høy faglig kompetanse og skal gi råd om forvaltning av KI, med særlig vekt på de store grunnmodellene.
I foredraget presenterer Pettersen konkrete utfordringer som enkeltpersoner, virksomheter og nasjoner kan stå overfor når KI-systemer blir stadig mer autonome og kraftige – og viser hvordan ulike nasjoner nå bygger institusjoner og institusjonelle rammeverk for å håndtere disse risikoene.