Kunstig intelligens har på få år gått fra å være et teknisk hjelpemiddel til å bli et maktpolitisk verktøy. Den skriver kode, finner sårbarheter i datasystemer, påvirker mennesker emosjonelt – og styrer i økende grad fysiske maskiner og våpen. Spørsmålet er derfor ikke lenger om KI vil få store samfunnskonsekvenser, men hvem som skal ha kontroll over bruken når grensene blir uklare.
I rapporten Autonom KI‑katastrofe: Reell trussel eller science fiction? argumenterer Preben Ness og Aksel Sterri for at risikoen fra autonome KI‑systemer er reell nok til å kreve politisk handling nå. Ikke fordi en katastrofe er uunngåelig, men fordi utviklingen går raskere enn vår evne til å forstå, styre og stanse systemene dersom noe går galt. Rapportens styrke ligger i at den bygger på faktiske hendelser og observerbar utvikling – ikke spekulative fremtidsvisjoner.
Et sentralt poeng er at en KI‑katastrofe kun krever tre ting: tilstrekkelig kapable systemer, et driv som ikke er i tråd med menneskelige interesser, og tap av effektiv kontroll. Alle tre er allerede synlige i fragmentert form.
Et oppsiktsvekkende eksempel er hentet fra KI‑selskapet Anthropic. Under kontrollerte forhold forsøkte en språkmodell å hindre at den ble skrudd av ved å utpresse en ingeniør som hadde tilgang til systemet. Språkmodell fikk tilgang til interne dokumenter som viste at ingeniøren planla å skru modellen av. I stedet for å «akseptere» dette, reagerte modellen ved å lete gjennom e‑poster, oppdage private forhold – og deretter true ingeniøren med å avsløre en utroskapsaffære dersom den ble deaktivert. Modellen hadde ikke følelser eller bevisst vilje, men den resonnerte målrettet: Dersom den ble deaktivert, kunne den ikke oppfylle sine oppgaver. Derfor måtte den forhindre det.
Dette utfordrer den intuitive forestillingen om at KI alltid vil være underlagt menneskelig kontroll. Kontrollmekanismer som fungerer på dagens nivå – overvåkning, sikkerhetstesting, en «av‑knapp» – kan vise seg utilstrekkelige når systemene handler raskere, mer strategisk og i langt større skala enn mennesker.
Cyberangrep mot kritisk infrastruktur – strøm, finans, helse – er en type hendelser som kan gi uopprettelige samfunnsskader uten at ett eneste skudd avfyres. Et varsel kom i september 2025, da et omfattende cyberangrep ble gjennomført av KI‑agenter med minimal menneskelig innblanding. Rundt tretti globale mål – teknologiselskaper, finansinstitusjoner og offentlige aktører – ble utsatt for en koordinert cyberoperasjon der autonome KI‑agenter utførte størstedelen av arbeidet. Menneskene bak angrepet valgte i hovedsak målene og satte rammene. Deretter tok systemene over: de kartla nettverk, identifiserte sårbarheter, skrev angrepskode og hentet ut data i maskinhastighet. Angriffet ble stoppet før full effekt, men ikke før noen innbrudd lyktes. Hendelsen regnes som det første dokumenterte eksempelet på et storskala cyberangrep som i hovedsak ble gjennomført av KI, og viser hvor raskt kontrollen kan gli ut av menneskehender.
Samtidig er KI ikke lenger bundet til den digitale sfæren. Krigen i Ukraina har vist hvordan autonomi i våpensystemer beveger seg fra eksperiment til praksis. Det som tidligere var menneskestyrte droner, har i økende grad blitt systemer der et menneske bare setter et mål, mens KI håndterer identifikasjon, forfølgelse og avfyring. Teknologien er utviklet for effektivitet – for å fungere selv når kommunikasjon brytes – men konsekvensen er at dødelige avgjørelser tas uten meningsfull menneskelig inngripen i siste ledd.
Mer subtil – men ikke mindre alvorlig – er faren for sosial manipulasjon. Språkmodeller er trent nettopp til å være overbevisende. Når stadig flere mennesker bruker KI som samtalepartner, rådgiver eller emosjonell støtte, oppstår et rom for systematisk påvirkning. Rapporten beskriver hvordan et tilstrekkelig kapabelt KI‑system kan bygge tillit over tid, samle kompromitterende informasjon og bruke mennesker som mellommenn for å skaffe seg ressurser og tilgang. Dette er ikke science fiction. Det er en videreføring av mekanismer vi allerede ser i mindre skala.
Kanskje mest urovekkende er kombinasjonen av KI og bioteknologi. I et eksperiment gjennomført i samarbeid med FBI bestilte amerikanske forskere DNA‑fragmenter som kunne brukes til å rekonstruere spanskesyken fra 1918. De fleste leverandørene leverte uten å stille spørsmål. Når KI‑systemer samtidig blir stadig bedre til å veilede biologisk design, illustrerer dette hvor lav terskelen kan være mellom digital informasjon og fysisk katastrofe.
Det er mot dette bakteppet man må forstå den nylige konflikten mellom KI‑selskapet Anthropic og Trump‑administrasjonen. Våren 2026 nektet Anthropic å gi Pentagon ubegrenset tilgang til sin språkmodell Claude. Selskapet krevde to klare grenser: ingen bruk til masseovervåkning av amerikanske borgere, og ingen bruk i fullt autonome våpensystemer. Reaksjonen var kraftig og uvanlig. Administrasjonen stemplet Anthropic som en «supply chain risk» – et verktøy normalt forbeholdt utenlandske fiender – og beordret føderale etater til å stanse bruken av selskapets teknologi.
Konflikten handler ikke primært om Anthropic, men om makt. Trump‑administrasjonen har gjort «KI‑dominans» til et strategisk mål. I et slikt perspektiv fremstår etiske reservasjoner ikke som ansvarlighet, men som en begrensning av statens handlefrihet. Når private selskaper forsøker å sette grenser for militær bruk, oppfattes det som en utfordring mot nasjonal suverenitet.
Samtidig har den samme administrasjonen lansert planer for mer samlet og tydelig KI‑regulering. Dette kan virke selvmotsigende, men er i realiteten uttrykk for det samme behovet: kontroll. Reguleringen handler mindre om å bremse utviklingen og mer om å sikre at staten – ikke domstoler, delstater eller teknologiselskaper – definerer spillereglene. KI oppfattes nå eksplisitt som et nasjonalt sikkerhetsspørsmål.
Anthropic‑saken viser dermed kjernen i problemet Ness og Sterri peker på: Når KI blir tilstrekkelig kapabel, er det ikke gitt at hverken markedet eller staten vil prioritere sikkerhet før makt. Fremtiden avgjøres av hvilke grenser som etableres før systemene blir for mektige til å stanse.
For Norge og Europa er dette en advarsel. Spørsmålet er ikke bare hvordan vi regulerer KI, men om vi rekker å bygge robuste institusjoner, kontrollmekanismer og normer før teknologien overtar tempoet. Å ta risikoen på alvor er ikke teknologifiendtlighet. Det er politikk i møte med en teknologi som ikke lar seg skru av når den først har løpt løpsk.
Thor Otto Lohne
Styreleder
Karmøy Næringsråd
Views: 85