Sådan kan AI misbruges af mørke kræfter
Hvordan kan AI blive farligt for alvor? Det er nogle af AI virksomhederne faktisk ret ærlige omkring. Anthropic har lige udgivet en trusselsrapport, som dækker alvorlige sager hvor aktører har forsøgt at bruge AI til blandt andet svindel, våben, biologiske våben og påvirkningsoperationer. Lad os dykke ned i hvad verdens nørdede skurke går og hygger sig med. Vi starter med en række trends der præger aktører som bruger AI til at påvirke fx. politisk.
1. Influence-as-a- service
Påvirkningskampagner med brug af AI til produktion og spredning af manipulerende eller falsk indhold er nu et produkt man kan købe. Reklamebureauer sælger propaganda til den, der betaler, uanset politisk afsender. Det giver bagmændene et skalkeskjul og gør det muligt for aktører at købe sig til kampagner.
2. AI som redaktionssekretær
Det kræver ikke mere end ét menneske på en ægte medieredaktion at pushe en særlig agenda massivt. En AI kan fungere som en skjult underredaktør og producere og publicere indhold som en del af en menneskestyret redaktion. Indhold produceret i et tempo der normalt kræver et helt team. Og det er svært at opdage.
3. Vask af kilder og afsender
Aktører beder AI om at fjerne tegn på, at tekst er AI-genereret og på hvor den oprindeligt stammer fra. De opdyrker falske afsenderkonti så de ligner rigtige over tid.
4. Falske identiteter
Der bliver skabt hele personaer med AI-genererede profilbilleder og opdigtede levnedsløb til falske journalister og politiske talspersoner. Der er også eksempler hvor AI generede profiler har udgivet sig for at være rigtige personer og institutioner, herunder en statslig talsperson og en menneskerettighedsorganisation.
6. Kloning af enkeltpersoner
Operationer går direkte efter navngivne mennesker og deres konti bliver klonet og brugt til at føre samtaler med personens kontakter. Fx. falsk vidneforklaring i FN’s Menneskerettighedsråd.
Men AI kan misbruges til langt mere end påvirkningskampagner. Kernen i trusselsrapporten fra Anthropic er, at AI har flyttet grænsen for, hvem der kan udføre avancerede angreb. Statsstøttede aktører, kriminelle netværk og enkeltpersoner kan nu operere med samme teknologi. Det er blandt andet fordi den kunstige intelligens automatiserer overvågning, udvikling af malware og databehandling i et omfang, der tidligere krævede rigtig mange mennesker.
Hastigheden er slående. Et indbrud gik fra første adgang til fuld datatyveri på få timer. Et andet gik fra én stjålet udviklertoken til fuld administratoradgang på cirka tre timer. Her følger et par af de særligt alvorlige eksempler fra rapporten.
Russisk spionage:
En russisk aktør har brugt AI til operationer rettet mod militære efterretningsmål i ukrainske og europæiske regeringer, samt diplomatiske og forsvarsrelaterede organisationer og enkeltpersoner med tilknytning til amerikansk udenrigspolitik.
Der drejede sig om skræddersyede AI-drevne workflows, der automatiserede store dele af operationerne, fra udvikling og anskaffelse af infrastruktur til indhentning af fortrolig data hos ukrainske og europæiske myndigheder, ambassader og droneleverandører. AI overvågede selv, om malware blev opdaget, og genopbyggede den automatisk, hvis nødvendigt.
Opportunister der udnytter AI til masseindbrud og afpresning
En gruppe kriminelle brugte AI til at automatisere tyveri af login-oplysninger og adgangsnøgler i massivt omfang, og derefter afpresse ofrene. De downloadede 1,8 millioner apps fra app-butikker og scannede automatisk for kodeord og adgangstokens, der uforvarende var kodet direkte ind i appsene. Med de stjålne nøgler brød gruppen ind hos flere organisationer. Hos en teknologivirksomhed blev over en terabyte data stjålet, inklusive nationale ID-numre og betalingskortoplysninger for at presse virksomheden til at betale løsesum. I et flyselskab fik hackerne adgang til titusindvis af passagerdata. Hos et energiselskab hævdede hackerne at kunne fjernstyre opladningshastigheden på kunders elbil-ladere
Kinesiske studerende byggede en autonom spionagemaskine
En universitetsstuderende og en praktikant stod bag autonome angreb mod cirka 50 organisationer på tværs af uddannelse, detailhandel, energi, teknologi, sundhed, finans og flere regeringer i Mellemøsten, Europa og Sydøstasien.
Hacker prøvede at stjæle en hemmelig AI-model
En russisk hacker, der plejede at angribe hotelbookingsider for penge angreb en AI-virksomheds testsystem i et forsøg på at få adgang til en endnu ikke udgivet avanceret AI model. Hackeren angreb 30 AI-firmaer på fire dage, med samme trick hver gang.
Ifølge rapporten har AI ikke skabt nye angrebsteknikker, men ændret økonomien bag dem. Rekognoscering og eksekvering, der før krævede specialister, kan nu køre autonomt i stor skala.
Anthropics trusselsrapport dækker sager fra december 2025 til august 2026 på tværs af syv kategorier: cyberoperationer, overvågning, påvirkningsoperationer, konventionelle våben, biologisk misbrug, svindel og illegal destillation.
