Et falskt jobbintervju, en KI med for mange nøkler og 6,34 milliarder dollar

Han laster det ned på jobbens bærbare datamaskin.

Det fantes ingen jobb. Det var en tyv som banket på døren. En måned senere, 29. oktober 2026, forsvant rundt 6,34 milliarder dollar i kryptovaluta fra Binance. FBI mener Nord-Korea står bak tyveriet.

Det interessante er ikke beløpet. Det er veien inn. Og midt på den veien finnes det en kunstig intelligens.

Tyveriet, steg for steg

For å forstå det holder det å tenke på et kontorbygg. Pengene ligger i hvelvet i kjelleren. Tyvene kommer ikke inn gjennom hovedinngangen. Derfor går de fra kontor til kontor.

Steg 1. Juni: Noen legger merke til bygget. En ingeniør i teamet som forvalter Binances kryptolommebøker, her kalt A, leter etter et KI-verktøy for programmering. Han laster ned et falskt program. Binance oppdager det og bytter ut datamaskinen og passordene hans. Problemet er tilsynelatende løst. Men angriperne visste allerede hvem A var, hva han jobbet med, og hvem kollegene hans var. De hadde skaffet seg plantegningen over bygget.

Steg 2. September: De kommer inn på et kontor. Med denne plantegningen finner de en annen ingeniør, B, og arrangerer det falske intervjuet. Den «tekniske oppgaven» inneholder et skjult spionprogram. Antivirusprogrammet oppdager det ikke. Fra det øyeblikket kontrollerer angriperne Bs bærbare datamaskin.

Steg 3. 20. oktober: KI-en åpner flere kontorer for dem. Fra Bs bærbare datamaskin bruker de et internt KI-verktøy i selskapet. Med det tar de kontroll over datamaskinene til to andre ingeniører i samme team, A og C. Nå har de ikke lenger ett kontor. De har tre.

Steg 4. Nøkkelen til kjelleren. På As datamaskin finner de en helt spesiell tilgangsnøkkel: en tillatelse til å installere programmer på selskapets servere. Det er som å finne kortet som åpner heisen til kjelleren, i en skuff.

Steg 5. 29. oktober: Kjelleren. Ved hjelp av Cs datamaskin og denne tilgangsnøkkelen installerer de sitt eget program og når frem til tjenesten som signerer overføringer. De signerer. Pengene går ut utenom den vanlige prosessen for uttak. Bare for XRP, en av kryptovalutaene, går 233 millioner XRP ut på fire minutter, mellom 20:05 og 20:09. Den interne alarmen går etterpå. Den siste overføringen ut skjer klokken 23:56.

Binance har frosset eller hentet tilbake rundt 2,85 milliarder dollar og sier at selskapet dekker tapene. Kundene betaler ikke. Denne gangen.

Hva KI-en egentlig gjorde

Her er det nødvendig å være ærlig. Binance har ikke forklart hvilket verktøy det var, hvilke tilganger det hadde, eller hvordan angriperne brukte det. Selskapet sier bare at verktøyet var involvert i steg 3, og at det er bygget helt opp på nytt, med nye kontroller. Noen mistenker at angriperne lurte det med ondsinnede instruksjoner. Andre tror de ganske enkelt brukte det slik det var laget for å brukes, fra en bærbar datamaskin som virket legitim. Ingen har bevist noen av forklaringene.

Det er heller ikke mulig å si at tyveriet ikke ville ha skjedd uten KI. Kanskje ville de ha funnet en annen vei.

Men det som er kjent, er nok til å vekke bekymring. Angriperne hadde én bærbar datamaskin. Takket være KI-en hadde de tre. Og på én av disse tre lå nøkkelen til kjelleren.

Det er lærdommen. En KI som bare svarer på spørsmål, er en bibliotekar. En KI som utfører handlinger på andre datamaskiner, er en ansatt med et nøkkelknippe. Og denne ansatte adlyder den som snakker til den fra en av selskapets datamaskiner, uten å spørre seg om det virkelig er en kollega i den andre enden.

Bedrifter har i årevis lært folk å ikke åpne mistenkelige vedlegg. Nå installerer de assistenter som på sekunder kan gjøre det en ansatt ikke kunne ha gjort alene. Hvis noen stjeler en datamaskin, stjeler de også assistenten. Og med den, alle nøklene dens.

Hvilke kontroller en KI med hender trenger

Enhver bedrift eller ethvert rådgivningskontor som gir en KI mulighet til å handle (åpne systemer, flytte filer, kjøre kommandoer, sende penger eller e-post), trenger kontroller på tre tidspunkter.

Før: Gi den få nøkler

• KI-en må ikke kunne gjøre mer enn personen som snakker til den. Hvis ingeniør B ikke har tilgang til Cs datamaskin, skal heller ikke assistenten ha det. KI-en arver brukerens tilganger. Den får aldri flere.
• Nøkler til hver oppgave, ikke hovednøkler. Hver tillatelse skal gjelde en bestemt jobb og en begrenset tid. Når jobben er ferdig, utløper den.
• Farlige nøkler skal ikke ligge på bærbare datamaskiner. En tilgangsnøkkel som gir adgang til serverne, skal ikke ligge på noens datamaskin.
• Skill mellom å tenke og å handle. KI-en kan foreslå. Handlingen utføres av et system som hver gang kontrollerer hvem som ber om den, til hvilket formål og på hva.
• Angrip den før de kriminelle gjør det. Test grundig hva som skjer hvis noen lurer den eller bruker den fra en stjålet datamaskin.

Underveis: Noen må følge med mens den handler

• Registrer det den gjør, ikke bare det den sier. Det holder ikke å lagre samtalen. Det må registreres hvilken datamaskin den brukte, med hvilken tillatelse, på ordre fra hvem og med hvilket resultat.
• Alarmer ved uvanlig oppførsel. Hvis assistenten til en ingeniør begynner å gå inn på kollegenes datamaskiner, må alarmen gå med en gang. Ikke først når pengene allerede har gått ut.
• En fartsgrense. Grenser for beløp, antall operasjoner og nye mottakere. Hvis 233 millioner av noe forsøker å gå ut på fire minutter, stopper systemet automatisk.
• Et menneske må bekrefte det som ikke kan gjøres om. Flytting av penger, sletting av data, installasjon på servere eller sending ut av virksomheten: bekreftelse fra en person, gjennom en annen kanal og med nok informasjon til å si nei. En bekreftelse som den kompromitterte datamaskinen selv ikke kan forfalske.
• En rød knapp som virker. Det må være mulig å trekke tilbake alle KI-ens tilganger og isolere kritiske systemer på sekunder. Og dette må være øvd på.

Etter: Det må være mulig å rekonstruere hendelsene og lære

• Det må være mulig å fortelle hele historien. Loggene må vise steg for steg hva KI-en gjorde, for hvem og med hvilke nøkler. Hvis bare chatten er igjen, er bare halve historien igjen.
• Lukk alle dørene, ikke bare den siste. I juni byttet Binance ut datamaskinen og passordene, men angriperne beholdt plantegningen. Etter en hendelse må spørsmålet være hva angriperen allerede vet, ikke bare hva angriperen har hatt tilgang til.
• Gå gjennom KI-ens tilganger etter hver hendelse, selv om KI-en ikke var inngangsporten.
• En uavhengig gjennomgang, ikke bare den rammede bedriftens egen forklaring.

Spørsmålet som må stilles

Binance lærte alt dette på den dyreste måten. Spørsmålet til enhver bedrift eller ethvert rådgivningskontor som i dag installerer en assistent med mulighet til å handle, er svært enkelt:

Hvis noen stjeler en ansatts bærbare datamaskin i morgen, hva kan de gjøre med virksomhetens KI?

Hvis svaret er «det samme som den ansatte, og alt blir registrert», er virksomheten på rett vei. Hvis svaret er «jeg vet ikke», er det klart hvor arbeidet må begynne.