“AI er ikke magi – det er en computer, som vi vælger, hvad skal kunne”

I denne Q&A taler vi med Gry Hasselbalch, som er Key Expert i EU’s InTouchAI.eu – et EU-initiativ som arbejder for en menneskecentreret og etisk tilgang til AI.

Artiklen handler om EU’s regulering af AI for bedre at beskytte borgeres rettigheder og for at sikre demokratisk kontrol. Desuden diskuterer vi udfordringerne ved AI’s potentiale til at erstatte menneskelig arbejdskraft og dens risikable omgang med spørgsmål om alt fra seksuel orientering til kriminalitet.

Til sidst ser vi på forskellene i den kulturelle accept af AI fra effektive robot-receptionister i Japan til den menneskelige kontakt, vi stadig i høj grad foretrækker i Danmark.

Hvor og hvordan møder vi AI i vores hverdag?

AI-systemerne, vi møder i vores hverdag i dag, bliver trænet ved at bearbejde store mængder af data, som de finder mønstre i og laver analyser på. Netflix anbefaler os f.eks. nogle film ud fra de andre film, vi har set. Her kan systemet selv lave anbefalingerne til, hvilke serier eller film du bør se næste gang. Man kalder det kunstig intelligens, fordi systemet kan udvikle sig og lære af den data, det bliver fodret med, og dermed kan gøre ting selv uden menneskelig indblanding.

Vi har det med at blande disse hverdagssystemer sammen med det, som man kalder AGI, kunstig generel intelligens. Her forestiller man sig, at den kunstige intelligens udvikler sig en gang i en dystopisk fremtid på en måde, så den får noget, der minder om egen identitet, ligesom filmen ‘Space Odyssey 2001’, hvor HAL 9000-computeren nægter at adlyde en ordre astronauten og siger “I’m sorry, Dave, I’m afraid I can’t do that.”

Denne scene er en inkarnation af den eksistentielle frygt, som kunstig intelligens også repræsenterer, og som vi f.eks. ser udtalt i debatten om generativ AI i øjeblikket, for hvis en maskine kan noget af det, som vi kan, hvem er vi så som mennesker? Og er der en mulighed for, at vi på et tidspunkt mister kontrollen?

Til det vil jeg svare, at kunstig intelligens selvfølgelig på ingen måde er ligesom mennesket, og det er reelt set ikke AI, vi skal frygte, men de interesser, der udvikler det. Men drømmen om AGI aktiverer den frygt.

 

EU er lige nu ved at udvikle ny lovgivning inden for AI. Kan du fortælle lidt om, hvilke overvejelser de tager højde for, og på hvilke områder de tør satse på AI fremadrettet?

Der hvor EU kan se, at AI kan bruges fornuftigt, er blandt andet inden for sundhedssektoren. AI kan f.eks. bruges til at analysere store mængder komplekse data og diagnosticere sygdomme eller udvikle ny medicin. Det kunne også være inde for klima og miljøforskning, hvor AI kunne hjælpe med at identificere problemløsninger, som har den største miljømæssige indflydelse. Der er mange muligheder.

Grunden til, at man i EU vil regulere og lovgive inden for dette område, er fordi man er meget opmærksom på de risici, der kan være forbundet med brugen af AI. Det er meget vigtigt, at vi mennesker er med til at styre udviklingen og ikke bare inkorporerer AI i alt, hvad vi foretager os, fordi vi får fortalt, at der er en teknologisk løsning på alting. For det er der ikke.

Den nye EU-lovgivnings formål er at sikre menneskers sikkerhed og rettigheder. Man skal have styr på de risikofaktorer, der kunne være i spil, når man lancerer AI på markedet eller tager AI i brug i EU, og ud fra hvor store risici, der er forbundet med dette, vil nogle systemer blive forbudt, nogle bliver højrisici, og andre lavrisici. Her vil der så være forskellige krav, man skal leve op til, f.eks. vedrørende den data, der bliver brugt, gennemsigtigheden i systemet, osv. Overholder man ikke loven, er der store bøder i vente.

 

Der er tale om, at AI kan overtage mange stillinger, f.eks. inden for manuelt arbejde. Hvor efterlader det os mennesker og vores behov for de stillinger?

Det her er et kæmpe problem. AI kan ikke hamle op med menneskelige kvaliteter som kreativitet, originalitet, kritisk refleksion og følelser. Så den kreative klasse, der allerede er på toppen af samfundet, mener jeg ikke har noget at frygte.

Men der er mennesker i den her verden, som ikke har råd til at gøre det kreative, dét som vi mennesker faktisk er bedst til, og som AI ikke kan konkurrere med. Dem, som traditionelt set har mindst i samfundet, bliver igen også de mest udsatte i denne udvikling. AI kombineret med robotteknologi er nemlig super smart, når det kommer til visse typer af manuelt arbejde.

Hvis et land som USA f.eks. får 100% selvkørende biler og derfor efterlader 10.000.000 mennesker uden et arbejde, så gør det blot uligheden og skævheden i samfundet endnu større. Det er den del af befolkningen, som ikke har lange og kreative uddannelser, som får taget deres job først.

Skal vi som EU-medlemslande være bekymrede for at bruge AI på samme måde, som de gør i Kina med deres såkaldte ”Smart Cities”?

Jeg tror ikke, vi får implementeret den slags systemer i et land som Danmark. Vi har et andet udgangspunkt. Men vi skal virkelig tænke os godt om og være bevidste om de forskellige risici, når vi implementerer teknologier i vores samfund.

De kinesiske Smart Cities er kort fortalt bygget på avanceret teknologi, der er designet til at kontrollere og overvåge borgere. Man bruger f.eks. ansigtsgenkendelse til at registrere opførsel, og bliver så registreret og ”scoret” i et socialt scoringssystem, som kan give og fratrække point, hvis du f.eks. går over for rødt, parkerer uhensigtsmæssigt eller belønnes, hvis du har frivilligt arbejde.

De kinesiske sociale scoringssystemer kan give alvorlige konsekvenser for enkelte personers levestandard, fordi det kan betyde, at du ikke kan sende dine børn i skole eller tage lån i banken, hvis du ikke opfører dig ordentligt. I værste tilfælde kan man blive sendt på en re-education camp, hvor man lærer at blive en ”god borger”.

En situation så ekstrem vil vi som sagt nok ikke se i Danmark. Vores grundlæggende rettigheder har trods alt stadig en stor betydning i det danske samfund. I forbindelse med EU-lovgivningen er det i øjeblikket også til forhandling, at der skal være forbud mod ansigtsgenkendelsessystemer på offentlige steder.

 

På hvilke punkter er AI hhv. “klogere” og “dummere” end os mennesker?

Der er én ting, vi skal forstå. AI og mennesker kan ikke sammenlignes. AI er en maskine, der er designet til at behandle data. Længere er den ikke. Et menneske derimod er noget langt mere komplekst end en maskine, der behandler informationer. Vi behandler også information, men vi har også følelser, kreativitet, kritisk refleksion og intuition, samt mange andre kvaliteter, og ikke mindst en biologi, som en maskine ikke kan efterligne.

AI er ikke magi, det er en computer, som vi vælger, hvad skal kunne. Den er rigtig god til nogle ting, og andre ikke. F.eks. er AI rigtig god og hurtig inde for nogle parametre, som vi mennesker også har, men er lidt langsommere til, som f.eks. at udføre rationelle og logiske analyser på store mængder data.

Det, som bekymrer mig mest, er ikke om AI og mennesker kan sammenlignes. For det kan de selvfølgelig ikke. Jeg er urolig for de folk med manuelle jobs, der får taget deres arbejde fra dem, fordi en robot kan gøre det hurtigere. Det vil skabe et skel og en kløft mellem os mennesker, da lavtuddannede eller folk, der ikke har en uddannelse, pludselig er ”overflødige”, og det kun er folk med lange eller kreative uddannelser, der vil kunne få et job. Denne accept af den forskydning, som AI vil skabe i samfundet, og opfattelsen af, at eliten ikke har noget at frygte, kan bekymre mig.

I filmen ’iHuman’ hævdes det, at fremtidens AI vil kunne aflæse folks seksuelle orientering og endda om et barn er tilbøjelig til at udøve kriminalitet i fremtiden – kun ud fra ansigtsgenkendelse. Hvad tænker du om det?

Først og fremmest er det meget farligt at tro på, at AI rent faktisk ville kunne det. For ikke at sige enormt diskriminerende for minoriteter som f.eks. LGBT+ segmentet. Man kan sætte det op imod, at man i gamle dage målte størrelsen på folks kranier for at sige, om de er mere eller mindre begavede. Det er begrænsende for os som mennesker, hvis man tror at kunstig intelligens kan forudse menneskets handlinger inden de overhovedet er sket.

AI er ikke en spåkugle. Det er et system, der laver forudsigelser på baggrund af data. Vi skal ikke begynde at begrænse vores friheder som mennesker. En af de vigtigste aspekter ved vores frihed er, at vores fremtid er ubestemt og uforudsigelig, og vi derfor selv har en indflydelse på at skabe den. Derudover skal vi huske på, at AI er biased. Den er jo oplært af det, vi lærer den, og derfor er den også forudindtaget, ligesom vi er.

 

Det er ingen hemmelighed, at robotter er næste skridt, når det kommer til udvikling af AI. Nogle mennesker kan sågar være bange for, at de en dag ”tager over,” hvad tænker du om det?

I Japan kan man f.eks. støde ind i en robot receptionist på det hotel, du bor på. Det er helt normalt i Japan, men det ville være mærkeligt herhjemme. Der er meget stor kulturel forskel på opfattelsen af mennesker og vores omgivelser. I Japan er der en langt større åbenhed over for udviklingen af AI og robotter, fordi der er en anden kultur omkring teknologierne. Som sagt i Shinto religionen kan en ting have en sjæl.

Vores kultur er anderledes, og jeg mener derfor ikke, at vi i Danmark skal være bange for, at robotter vil overtage de menneskelige relationer. Vi vil nemlig gerne have menneskelig kontakt, selvom en robot i mange henseender ville være enormt effektiv. Det tætteste vi kommer på det, er at vi nu i dag kan gå ned og scanne vores varer i Netto – men vi kan også gå til den almindelige kasse, hvor der sidder et menneske, vi kan have en samtale med.

 

Dokumentarfilm ‘iHuman’ er instrueret af Tonje Hessen Schei og blev vist på CPH:DOX i 2020. Filmen kan i dag ses her på PARA:DOX nedenfor. 

Artiklen er finansieret med tilskud fra Europa-Nævnet. Ansvaret for indholdet er alene PARA:DOX.