ESSAY – Af KLAVS BIRKHOLM
Ooh! Det er det fiineste! Det allerfiineste! – sagde skrædderne. Og alle departementscheferne klappede i deres hænder. Styrelserne klappede i deres hænder. Borgmestre og kommunalbestyrelser klappede i deres hænder. Og alle de ansatte i Børns Vilkår, ved Politiet og ved Skattevæsenet klappede i deres hænder. Også alle de andre skræddere klappede, de var nu blevet ”konsulenter” og leverede maskiner, der kunne tænke selv – en slags kunstige mennesker, der var langt klogere end hoben af almindelige mennesker.
Kun et par forkomne fuldmægtige i Analogiseringsstyrelsen (analogist.dk) gryntede reaktionært. De havde slet ikke forstået tidsånden.
Det kommer fra udlandet! – forklarede skrædderne til enhver, som gad høre. Det er så fiint og avanceret, at vi slet ikke kan lave det her i lille Danmark. Det er næsten ikke til at forstå!
Og det gjorde de heller ikke.
Blålys sælger
I den lange række af beundrere er Børns Vilkår én af de senest tilkomne. Den 19.februar udsendte virksomheden en pressemeddelelse om, at Børns Vilkår nu vil ”bruge kunstig intelligens til at løfte kvalitet og effektivitet på Børnetelefonen”. Direktør Rasmus Kjeldahl udtaler:
”Vores formål er at standse svigt af børn, og det kan kunstig intelligens hjælpe os med. … Børnetelefonen er en anonym personlig rådgivning, hvor tusindvis af børn taler eller chatter med rådgivere om meget forskellige problemer. Det giver os et enormt datagrundlag, som kunstig intelligens kan hjælpe os med at udnytte endnu bedre – til gavn for de børn og unge, vi rådgiver”.
Senere i pressemeddelelsen følger et af de vildledende blålys, som konsulenterne altid tager i munden, når de skal anprise kunstig intelligens (AI): ”AI-systemet kan for eksempel fortælle rådgiveren, at ordvalget fra barnet med 94 procents sandsynlighed indikerer, at barnet er udsat for vold.”
Spørgsmålet er for det første, hvordan konsulenterne har båret sig ad med at nå frem til netop dette tal? For det andet, hvordan Børns Vilkår kan handle ansvarligt på ”94 procents sandsynlighed”? Men for det tredje, og endnu mere alvorligt, hvilke børn der skal betale prisen for hulheden i dette løfte?
Som et oplyst menneske kan Rasmus Kjeldahl ikke være uvidende om, hvor stor en værdi det ”enorme datagrundlag” repræsenterer, som børnesamtalerne ifølge hans eget udsagn rummer. I samme øjeblik, en maskinlæringsalgoritme får adgang til alle disse data, er børnenes anonymitet prisgivet. For bag algoritmen står altid et konsulentfirma. Og bag konsulenterne står altid en udenlandsk tech-virksomhed, som lever af at høste og bearbejde data.
Man kan undre sig over, at bestyrelsen i Børns Vilkår virkelig tør sætte så meget på spil. I bestyrelsen sidder også et medlem af Dataetisk Råd, og han bør i det mindste kunne forklare sine kollegaer, at ”anonymisering” og ”pseudonymisering” kun eksisterer i salgstalernes verden, ikke i virkeligheden. Men måske fortæller det tillige en del om, hvilken largesse vi kan forvente fra dette nye ”etiske” råd.
Konsulentfirmaet hedder i dette tilfælde Itelligence. ”For os handler projektet i første omgang om at hjælpe med et godt formål, men samtidig får vi lejlighed til at arbejde helt ude på forkanten af, hvad AI kan gøre for en virksomhed”, siger firmaets danske direktør Per Falck Jensen. Og han fortsætter: ”Vi er helt sikre på, at vores AI-team kan bruge disse erfaringer for andre kunder, som vil bruge data og software til at forbedre deres kundedialog.” Det er den nye terminologi, Børns Vilkår nu spindes ind i.
På twitter spurgte Anders Kjærulff, tidligere redaktør på det hårdt savnede Radio24syv-program Aflyttet: ”Findes der (i forvejen) et system her? – eller skal udsatte danske børn træne det op fra grunden?” Efter et re-tweet fra mig svarede Thomas Nørmark, der betegner sig selv ”global director” i Itelligence:
”Her lidt keywords, hvis man også interesserer sig for substans: Etiske ML principper som “counterfactial fairness” – XAI – Fokus på ekstern revision (mærkning) – Pro bono – Flere børn får hjælp – Mulighed for hjemmerådgivning – Lige vilkår.”
Svaret er eksemplarisk for den lingo, som den digitale yuppie-isme betjener sig af. Ved at indskrænke sig til ”keywords” og gøre sammenhængen lidt sort, giver man indtryk af at være indviet i AI’s mysterier på en måde, som menigmand desværre er afskåret fra.
Men der er netop ingen substans i Nørmarks svar. XAI er eksempelvis en forkortelse for ”forklarlig kunstig intelligens”, en bestræbelse efter at etablere transparens i de algoritmiske operationer, som ellers af natur er skjulte og uigennemsigtige.[1] Som enhver fagmand ved, er transparens i særlig grad umuligt, når den selvlærende algoritme er trænet på neurale netværk. Bestræbelsen er nobel, men noget teknologisk gennembrud har vi endnu ikke set. Og hvad alt dette har at gøre med Børns Vilkår, står hen i det uvisse.
Tilsvarende Nørmarks ”keyword” pro bono. Det mere end antyder, at Itelligence stiller sin ekspertise til rådighed for Børns Vilkår ganske gratis. Men som enhver ved fra skandalerne omkring Facebook og Deep Mind, er en tilsyneladende gratisydelse i dataindustrien altid et dække over skjult udbytning.
Skræddersyet fra Savile Row – eller Silicon Valley?
Nu til en anden ende af det samme, eventyrlige kejserrige. Palantir er den hemmelighedsfulde tech-gigant, der har haft held til at undgå samme dårlige omtale som Google, Amazon, Facebook og de andre. Godt klaret, når man tager i betragtning, at det er et Palantir-system, der har hjulpet Trump-administrationen med at implementere sit immigrationsstop, blandt andet ved at identificere uledsagede børn, opspore deres familier og give grænsepolitiet tilstrækkeligt materiale til at returnere dem tilbage over grænsen.[2]
Palantir Technologies ejes af rigmanden Peter Thiel, der i 1999 lancerede PayPal og senere deltog i præsident Trumps overgangsstab. Virksomhedens CEO er Alex Karp, der studerede under Jürgen Habermas og skrev speciale om sociologen Talcott Parsons; han bor nu i Silicon Valley, men er tydeligt populær i Tyskland, hvor han sidder i bestyrelsen af både Springer-koncernen og kemi-giganten BASF. En af Karps politiske rådgivere er i øvrigt den dansk gifte MI6-officer Peter McQuibban.
Hvilke konsulenter, der her i landet har anprist Palantir med sorte halvsætninger og ”keywords”, vides ikke, men kendsgerningen er, at Rigspolitiet og PET for et par år siden har indgået en kontrakt for 160 mio kr med tech-giganten, som skal hjælpe med at fange forbrydere, bekæmpe terrorisme og stille sit prædiktive analyseinstrument til rådighed, også her i Danmark.[3] Prædiktion ved hjælp af data-ekstrahering og understøttet af ansigtsgenkendelse er kernen i Palantirs tilbud. Samme pakke er for længst blevet afsat til NSA, CIA, det amerikanske marinekorps og en række andre forsvars-og sikkerhedsorganisationer. Den har været anvendt i både Afghanistan, Iran, Los Angeles, Chicago og flere andre storbyer. Her har den ifølge journalisten og forfatteren Jacques Peretti bidraget til at militarisere byrummet og skabe øget mistillid i områder, hvor spændingsniveauet i forvejen er alt for højt, og hvor almindeligt politiarbejde er særlig vanskeligt.[4]
På Københavns Universitets har Datalogisk Institut oprettet en ”Business Club” – en slags sluse mellem de studerende og en række udvalgte virksomheder, som instituttet gerne vil samarbejde med. En af virksomhederne er Palantir. Det kan blive et godt udgangspunkt for, at vi her i landet kan få nogle flere skræddere, der kan sy med usynlig tråd og tillige måske nogle mere hardcore eksperter, som kan overbevise det politiske flertal i Danmark om, at også vi må indføre ansigtsgenkendelse i det offentlige rum.
Bedre og bedre
Et tredje sted i kejserriget bor Skattestyrelsen. Her fortæller underdirektør Karoline Klaksvig glædestrålende, at man nu kan bruge AI til at standse skattesnyd.
Ooh! Det er fiint! Hvor er det dog fantastisk, at selve den teknologiske udvikling hjælper os med at undgå fremtidige skandaler, som eksempelvis udbyttesvindelen, der kostede den danske stat mindst 12,7 milliarder DKK, fordi regeringen havde lyttet for meget til et udenlandsk konsulentbureau og afskaffet størsteparten af den menneskelige intelligens i SKAT.
Det nye værktøj har indtil nu sparet staten for godt 13 millioner DKK i forkerte fradrag, oplyser DR.dk, der har historien.[5] Det er så smart, at hvis en borger eksempelvis indtaster et fradrag for en fredet ejendom, registrerer det omgående, hvis borgeren slet ikke ejer en fredet ejendom, og så bliver indtastningsfeltet blokeret! Jamen, er det ikke utroligt. Besparelsen på 13 millioner DKK betyder ganske vist, at det nye apparatur vil være 977 år om at indtjene, hvad der blev tabt i udbytteskat, men pyt! Fantastisk er det vel alligevel: ”Kontrolværktøjet er baseret på såkaldt ‘machine learning’. Det betyder, at værktøjet bliver bedre og bedre, jo flere årsopgørelser det tjekker”.
Det er lige præcis det, der kaldes fremskridtet.
Fremskridtets værdi
Hvor går man hen, hvis man ønsker præcis besked om, hvor meget fremskridtet er værd? Til De økonomiske vismænd? Nej. Til Finansministeriet? Nej. Man går naturligvis til McKinsey – det har man altid gjort. Sammen med vores statsligt nedsatte ”Innovationsfond” har den verdensomspændende amerikanske management- og konsulentvirksomhed beregnet, at Danmarks økonomi vil vokse med 35 milliarder DKK årligt, hvis bare vi er AI-villige nok, klapper tilstrækkeligt i vores hænder og giver skrædderne tid og rum til at præsentere deres seneste kollektioner.
McKinsey’s rapport er fra oktober 2019 og som altid bygget på estimater: ”Vi vurderer (estimate), at AI tilbyder danske virksomheder 100-160 milliarder DKK i potentiel værdi”. Dette betydelige beløb kan, forklarer McKinsey, ”fremgå af applikationer som (1) prædiktiv vedligeholdelse, (2) anbefalinger af næste-produkt-man-skal-købe og (3) AI-styrede ansættelser og tilbageholdelser”. Hvad der her menes med ”tilbageholdelse” er ikke ganske klart, men det er tydeligt, at der henvises til en amerikansk arbejdsmarkedskultur, ligesom det næstsidste eksempel refererer til en amerikansk annoncekultur.
Det er næsten rørende at se, hvordan McKinsey er kommet frem til sine estimater ved blandt andet at analysere to millioner danske LinkedIn-profiler, interviewe 50 topledere og analysere data fra Danmarks Statistik. Sådan! McKinsey er ikke bare en kæmpemæssig konsulentvirksomhed, det er også en slags globalt politisk parti, overalt med det samme budskab, et budskab som her i Danmark bedst kan sammenlignes med Liberal Alliance.
Det er sandsynligvis rigtigt, at der er penge at tjene ved at installere Internet-forbindelse i hårde hvidevarer, HiFi-udstyr, biler, solcelleanlæg, vindmøller og diverse produktionsanlæg, så udstyret kan udsende et prædiktivt varsel om, at det nu trænger til vedligeholdelse. Et tocifret milliardbeløb bliver der dog næppe tale om, og det helt afgørende spørgsmål, som McKinsey let forbigår, er: Hvor indkasseres denne værdi? Danmark har ikke megen storindustri til fremstilling af f.eks. hårde hvidevarer og automobiler – og vi har slet ikke kapacitet til produktion af AI. Den må vi importere og lære vores software-ingeniører og programmører op i at træne og tilpasse. De udgør arbejdskraften. Silicon Valley har ejerskabet og høster gevinsterne.
Så hver gang skrædderne begejstrer hoffet, risikerer vi en gentagelse af eksempelvis historien om den danske sundhedsplatform, der viste sig ubrugelig, fordi den fulgte amerikanske standarder. Eller historien om IBM’s Watson, som danske læger skuffede har måttet skrotte.
For nylig skrev praktiserende læge Thomas Birk Kristiansen en kritik af det elektroniske system til lægemiddelordination, som danske læger skal tage i brug i slutningen af 2020.[6] Systemet bygger på maskinlæring – det allerfiineste! – og arkitekturen er blandt andet defineret af Dansk Lægemiddelinformation, som reelt er de store medicinalfirmaers fælles pr-platform.
Birk Kristiansen forudser både tilfældige og sponsorbestemte fejl, som kan få fatale konsekvenser for patienters medicinforløb. Men sådan bør han ikke råbe op, mener Danske Regioner og medicinalindustriens lobbyister. Han taler jo som en uvidende dreng. Han har ikke forstand på værdi. Men vi, vi taler om kunstig intelligens.
Ooh!
[1] Klavs Birkholm & Niels Frølich (red.): De skjulte algoritmer. Teknoantropologiske perspektiver. DJØF-forlag, 2018.
[2] Sam Biddle & Ryan Devereaux: ”Peter Thiel’s Palantir was used to bust relatives of migrant children, new documents show”. The Intercept, 2. Maj 2019. – Se også: https://www.documentcloud.org/documents/5980596-Smuggling-Initiative-ConOP.html
[3] Sebastian Gjerding & Lasse Skou Andersen: ”Danmark køber overvågningssystem for millioner hos NSA-leverandør”. Information, 28.oktober 2016. Se også samme forfatteres ”Nyt ’supervåben’ skal gøre politiet bedre til at snage i Facebook-profiler”. Information, 31.marts 2017.
[4] Jacques Peretti: Done: The Secret Deals That Are Changing Our World. 2018. Hodder & Stoughton.
[5] ”Nyt system stopper fejl for 50 millioner: Bremser snyd og tastefejl i din årsopgørelse”, DR.dk 5.september 2020.
[6] ”Praksislæge frygter fejl ved Danske Regioners brug af Machine Learning”, Sundhedspolitisk Tidsskrift 9.december 2019.