Sidder vi lige nu og maler vores fingernegle med AI?

Der var engang, hvor vi mennesker var utrolig begejstrede over at det nufundne radioaktive stof radium viste sig at være selvlysende. Det gav en nærmest magisk effekt og kunne bruges i mange situationer.

Unge piger sad på række og håndmalede lysende tal på armbåndsurer og morede sig med at smøre den selvlysende væske på neglene. Pigerne blev kaldt “spøgelsespiger” fordi det radiumstøv de sad i fik deres hud og tøj til at lyse. Du kan selv google dig frem til, hvad der efterfølgende skete med disse stakkels “radium girls”.

Lige nu er vi meget begejstrede for alle mulighederne med kunstig intelligens. Optimismen vil ingen ende tage. Vi kan angiveligt redde klimaet, opfinde en kur mod kræft og løse verdens uligheder.

Men der er også stemmer, som forsøger at råbe op om risikoen ved AI.

Der bliver spekuleret i hvor stor sandsynlighed er for at kunstig intelligens bliver menneskehedens endeligt.

Dette er et reelt spørgsmål som matematikere, statistikere og computer scientists regner på. For sandsynligheden er IKKE nul. Det er de fleste enige om. Ergo er det noget, vi skal tage ekstremt seriøst.

Man taler om P-Doom tallet. Den procentmæssige sandsynlighed for….ja undergang. Dette er naturligvis ikke et fast verificerbart tal, da det drejer sig om hypotetiske scenarier og fremskrivninger.

Men det er ikke et tal som forskerne bare hiver ud af ærmet.

Der bliver lavet sindrige udregninger og formler i forsøg på at indregne hypotetiske, utilsigtede konsekvenser af maskinernes hastige udvikling, og hvad der sker, når de når et niveau hvor de er titusinde gange klogere end os. Vi kommer sandsynligvis ikke længere til at have kontrollen. Vi vil ikke vide hvad maskinernes motiver er. Og om deres kalkulationer betyder, at den besværlige menneskehed er til overs.

Jeg spurgte forleden Yoshua Bengio hvad hans P-Doom tal er. Bengio har lavet noget af det mest væsentlige grundarbejde, som har banet vejen for den teknologiudvikling, som vi ser i dag. Han verdens mest citerede forsker og vinder af Turing Prisen, som er det største man kan opnå inden for feltet. Bengios svar:

“10 % sandsynlighed for af AI vil betyde menneskehedens endeligt”.

I andre sammenhænge har han udralt

“20 % risiko for at det her vil ende katastrofalt”.

Forestil dig hvordan vi ville reagere hvis det var en meteor på vej mod Jorden? Vi ville hektisk og i en fart organisere os som menneskehed for at sikre at det IKKE gik galt.

“Hvis det kun var 1 % ville jeg også være meget bekymret” tilføjede Bengio. For risikoen er ikke 0. Slet ikke.

Alligevel får man det uflatterende prædikat “doomer”, hvis man tillader sig at pege på, at vi måske står overfor den største trussel mod menneskeheden nogensinde.

Man lander nærmest i samme kategori som “flat earthers” og risikerer at blive kaldt konspirationsteoretiker.

Hvis vi ser på erhvervslivet, kommunerne, sundhedsvæsnet og politikernes retorik så drejer AI snakken sig om nogle ret abstrakte gevinster. Og det kan ikke gå for langsomt. Man taler meget lidt, om alt det vi kan miste, når/hvis vi overgiver os til AI.

Selv dem, som udvikler systemerne, ved at de kommer med en risiko. OpenAIs frontperson Sam Altman siger:

“AI will most likely lead to the end of the world, but in the meantime there will be great companies created with serious machine learning”.

Hvorfor tager vi ikke dette mere seriøst? Hvorfor er det nærmest ikke en del af den offentlige debat?

Nej vi leger med ChatGPT og skaber lejlighedssange og laver sjove deep fake jokes med kollegaen. Og taler om sparede årsværk i det offentlige og at erhvervslivet mister vækst, hvis vi regulerer.

Luftfarsindustrien, medicinalindustrien og fødevarerindustrien er underlagt seriøs regulering, og man kan ikke bare sende produkter på gaden uden grundig test og forsikring mod ulykker og fx. kræftfremkaldende bivirkninger.

“Kunstig intelligens er mindre reguleret end en sandwich” understregede Yoshua Bengio under vores samtale.

Så spørgsmålet er, om vi lige nu ukritisk sidder og maler vores fingernegle med AI?