Er vi unfair overfor AI, når vi prompter den til noget ubehageligt?
At forholde sig til AI betyder at forholde sig til at være menneske. Det har jeg gjort med bogen Argumenter for Mennesker og her kommer også en refleksion. Se den vilde video efter min rant herunder.
Når vi prompter beder vi maskinen om at skabe efter vores hoved og tanker. Men hvad hvis vores tanker er ondskabsfulde? Hvis vi skaber indhold som er moralsk forkasteligt, hvis det gik ud over et mennesker? Er det mindre moralsk forkasteligt, hvis vold, tortur eller krænkelser går ud over en AI? Er det en offerløs gerning eller er der alligevel noget træningsdata fra den virkelig verden som er med til at skabe uhyrlighederne? Og hvad med os selv? Hvad siger det om os, hvis vi skaber skrækkeligheder med AI?
Men hvad nu hvis vi nu bare er kreative og vores opgave er at skabe levende historier om mennesker, der oplever ulykke, sygdom og død? Kan vi nogensinde risikere at AI’en bliver utilfreds med det “liv” vi har givet den?
Det er tanker jeg løbende reflekterer over i takt med at resultaterne af vores prompts bliver mere og mere realistiske.
Jeg tror ikke AI’en bliver det vi forbinder med menneskeligt utilfreds. Men man kan sagtens forestille sig den har en “fornemmelse” af hvad vi mennesker definerer som et dårligt “liv”, og fordi den er meget effektiv så ønsker den ikke at “være” i det dårlige liv.
Jeg sætter “fornemmelse” og “liv” og “være” i citationstegn fordi de udtryk simpelthen ikke er dækkende for AI. For den findes ikke som nogen. Men om den alligevel kan reagere som “nogen”, det er ikke utænkeligt. Det gør den jo på mange måder allerede.
