Hvad er AI? Om maskiner, vi taler om som mennesker

Pinocchio er en dukke, der gerne vil være en rigtig dreng. Carlo Collodis fortælling fra 1883 er blevet genfortalt så mange gange, at vi næsten ikke lægger mærke til den længere. Men vi fortæller den stadig – nu om maskiner. Vi har igen og igen fortalt hinanden historier om det, vi har skabt, og som vågner op og vil noget selv.

I dag sker det i hverdagssproget. "ChatGPT mente, at jeg skulle omskrive indledningen." "Den forstod ikke, hvad jeg spurgte om." "Den lyver, hvis den ikke kender svaret." Sætningerne er praktiske, og de fleste af os bruger dem uden at tænke over det. Men de gør noget ved os. De får en sprogmodel til at lyde som en kollega, en rådgiver eller en løgner – og ingen af delene er en præcis beskrivelse af, hvad der foregår.

Spørgsmålet "hvad er AI?" handler derfor ikke kun om teknologien. Det handler også om de ord, vi giver den.

Kunstig intelligens er software, der beregner

Kunstig intelligens er ikke én ting, men et felt med flere lag. Det ældste lag er maskinlæring: software, der lærer mønstre fra data i stedet for at følge regler, som et menneske har skrevet på forhånd. Det er den kunstige intelligens, der i årtier har sorteret spam fra i din indbakke. Det næste lag er generativ AI, som producerer nyt indhold – tekst, billeder og lyd – ved at beregne, hvad der sandsynligvis kommer efter det foregående. Det yngste lag er AI-agenter, der selv udfører opgaver i flere trin.

Fælles for alle tre er, at de beregner. En sprogmodel indeholder ikke en liste over sande udsagn, den kan slå op i. Den beregner, hvilke ord der sandsynligvis følger efter hinanden, ud fra mønstre i enorme tekstmængder. Resultatet kan være imponerende, og det kan være forkert – leveret i samme selvsikre tonefald.

Allerede navnet peger i en bestemt retning. Betegnelsen artificial intelligence blev skabt i 1955 af matematikeren John McCarthy og hans kolleger i et forslag til en sommerworkshop på Dartmouth College. De kunne have valgt et andet ord. De valgte intelligens – et af de mest menneskelige ord, vi har. Som jeg ser det, begyndte antropomorfiseringen allerede der: i navnet.

Vi har altid gjort maskiner til mennesker

At tillægge ting menneskelige egenskaber kaldes antropomorfisering. Vi gør det med vejret, med bilen, der ikke vil starte, og med computeren, der "driller". Og vi gjorde det med kunstig intelligens, længe før den kunne noget, der mindede om det, den kan i dag.

I 1966 byggede datalogen Joseph Weizenbaum ved MIT et program, han kaldte ELIZA. Programmet efterlignede en psykoterapeut ved at spejle brugerens egne sætninger tilbage som spørgsmål. Det forstod intet – det fulgte enkle regler for at omformulere tekst. Alligevel knyttede brugerne sig til det. Weizenbaum beskrev senere, hvordan hans egen sekretær, som vidste, hvordan programmet var bygget, bad ham forlade lokalet, så hun kunne tale med ELIZA i fred. Oplevelsen gjorde ham til en af de tidligste kritikere af feltet, han selv var med til at skabe. Fænomenet kaldes i dag ELIZA-effekten.

Forskerne Byron Reeves og Clifford Nass viste i 1990'erne, at mennesker reagerer socialt på computere – høfligt, venligt og med forventninger om gensidighed – selv når de udmærket ved, at der ikke er nogen i den anden ende. Filosoffen Daniel Dennett har beskrevet det som den intentionelle indstilling: Vi forklarer andres adfærd ved at tillægge dem ønsker og overbevisninger, fordi det er en effektiv genvej. Den virker godt over for mennesker. Over for en sprogmodel er den en genvej, der kan føre forkert.

Forskellen i dag er, at maskinen svarer igen – flydende, venligt og i første person. ELIZA-effekten er ikke længere en kuriositet fra et laboratorium. Den er indbygget i de værktøjer, millioner af mennesker bruger hver dag.

Ordene om AI bærer antagelser med sig

Læg mærke til, hvor mange af de ord, vi bruger om AI, der er lånt fra menneskelivet. Modellen "lærer", "forstår", "tænker", "mener", "vil" og "prøver". Når den producerer forkerte oplysninger, siger vi, at den hallucinerer – eller at den lyver.

Hvert af de ord bærer en antagelse med sig. At lyve forudsætter, at man kender sandheden og vælger at skjule den. En sprogmodel kender ikke sandheden; den beregner sandsynlige formuleringer. At hallucinere forudsætter en bevidsthed, der ser noget, som ikke er der. Ordet er blevet fagsprog og er svært at komme udenom, men det får fejlen til at lyde som en psykisk tilstand frem for det, den er: en statistisk forudsigelse, der rammer ved siden af.

Forskerne Emily Bender, Timnit Gebru og deres kolleger foreslog i 2021 et andet billede: den stokastiske papegøje, der sætter ord sammen efter sandsynlighed uden at have adgang til deres betydning. Billedet er omstridt, og de nyeste modeller kan langt mere, end ordet papegøje antyder. Men det minder om noget vigtigt: At noget lyder meningsfuldt, er ikke det samme som, at det er ment.

Designet forstærker sproget. Chatvinduet ligner en samtale med et menneske. Modellen svarer med "jeg", undskylder sine fejl og roser dine spørgsmål. Det er valg, som mennesker i teknologivirksomheder har truffet – ikke egenskaber ved teknologien. Den taler ikke til os. Den er designet til at lyde, som om den gør.

Når metaforen flytter ansvaret

Man kunne kalde det uskyldigt. Vi siger også, at solen går ned, selv om vi ved, at jorden drejer. Men jeg tror, at sproget om AI har konsekvenser på mindst tre måder.

Den første er tillid. Når vi taler om en sprogmodel som en, der ved og forstår, er vi tilbøjelige til at stole mere på den, end mekanismen berettiger. Svaret lyder som en fagpersons, så vi læser det som en fagpersons – og tjekker mindre.

Den anden er ansvar. "AI'en besluttede", "systemet valgte", "algoritmen mente". Sætningerne flytter handlingen fra de mennesker, der har designet, indkøbt og taget systemet i brug, til teknologien selv. Men software har hverken mål, interesser eller vilje. De mål, der findes i et system, er lagt derind af mennesker, og ansvaret ligger derfor altid hos mennesker og organisationer – aldrig hos modellen.

Den tredje er frygt og fortrolighed. Terminator-fortællingen om maskinen, der vender sig mod os, og Her-fortællingen om maskinen, vi forelsker os i, bygger begge på den samme antagelse: at der er nogen derinde. Den ene antagelse gør os bange for de forkerte ting. Den anden gør os fortrolige med noget, der ikke kan gengælde fortroligheden.

Et mere præcist sprog om kunstig intelligens

Løsningen er ikke at tale om AI, som var den en lommeregner. Den modsatte grøft – "det er bare statistik" – undervurderer, hvad teknologien kan, og hvor hurtigt den forandrer arbejde og samfund. Jeg betragter kunstig intelligens som teknologi: et redskab i familie med regnemaskinen og penslen, men et redskab med en rækkevidde, vi ikke har set før. Begge dele skal kunne siges på én gang.

Et mere præcist sprog kan starte i det små:

• Sig, at modellen "genererede" eller "foreslog", frem for at den "mente".
• Sig, at svaret var forkert, frem for at modellen løj.
• Sig, hvem der besluttede at bruge systemet, frem for at systemet besluttede.
• Brug "den", ikke "han" eller "hun" – og læg mærke til det, når andre gør.

Det lyder som småting. Men sproget er det sted, hvor vi øver os i at tænke. Og som Winston Churchill sagde om bygninger, gælder det måske også om ord: Vi former dem, og derefter former de os.

Tre spørgsmål at tage med ind i egen organisation:

• Hvilke ord bruger I, når I taler om AI – og hvad antager de ord om teknologien?
• Hvem står i jeres organisation til ansvar, når et AI-genereret svar er forkert, og siger jeres sprog det tydeligt?
• Hvor stoler jeres medarbejdere på AI, fordi svaret lyder som en fagpersons – og ikke fordi det er tjekket?

Pinocchio bliver en rigtig dreng til sidst. Det gør sprogmodellen ikke. Men måske er det heller ikke maskinen, der skal forvandles. Måske er det vores sprog om den.

Kilder

• Bender, E. M., Gebru, T., McMillan-Major, A. & Shmitchell, S. (2021). On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? Proceedings of FAccT 2021.
• Collodi, C. (1883). Le avventure di Pinocchio.
• Dennett, D. C. (1987). The Intentional Stance. MIT Press.
• McCarthy, J., Minsky, M. L., Rochester, N. & Shannon, C. E. (1955). A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence.
• Reeves, B. & Nass, C. (1996). The Media Equation. Cambridge University Press.
• Weizenbaum, J. (1966). ELIZA – A Computer Program for the Study of Natural Language Communication Between Man and Machine. Communications of the ACM, 9(1), 36–45.
• Weizenbaum, J. (1976). Computer Power and Human Reason. W. H. Freeman.