Vi er ankommet til det datadrevne samfund. Men er vi overhovedet bevidste om de nye udfordringer, det stiller til samfundets institutioner og det liberale demokratis grundværdier?
Af KLAVS BIRKHOLM – Essay [1]
1.
Digitalisering kan i dag defineres i dobbelt betydning:
(a) For det første: at opbevare information i talform (typisk 0 eller 1, altså 0-1-1-0-0-1- …) – herunder at transformere allerede opbevarede informationer til talformat. Det kan være informationer som lyde, billeder, stemmer, bøger, håndskrifter og meget andet. Man taler f.eks. om overgangen fra analog til digital fotografering, og man taler om “digitalisering af kulturarven”.
(b) For det andet: at transformere funktioner, der tidligere har været udført af mennesker, til computerbaserede (= digitale), automatiserede processer. Man taler f.eks. om digitalisering af posten og om digitale betalingsformer.
Den første betydning (a) er den oprindelige; den anden (b) er kommet til i løbet af de seneste ti år og bliver nu mere og mere fremtrædende. Det kan man også aflæse som bevægelsen fra en informationskultur (ca. 1990-2010) til en automatiseringskultur. Det afgørende er eksempelvis ikke længere selve kulturarven, men hvordan kulturarven kan anvendes i nye, helst “værdiskabende” processer.
I denne sammenhæng har de digitale algoritmer fået en voldsomt øget betydning.
2.
Et godt eksempel finder man hos Uber og dets amerikanske søsterselskab Lyft, hvis forretningsmodeller bygger på tre algoritmiske features:
(1) Tildeling. Når en kunde aktiverer sin App, sørger en algoritme for, at selskabets computersystem vælger den rette vogn. Ifølge Uber bliver køreturen tilbudt den chauffør, der befinder sig nærmest den efterspørgende kunde, hvorefter chaufføren har 15 sekunder til at acceptere turen. Chaufføren modtager både information om kundens lokalisering, hans rating, hans billede og navn. Og chaufføren bestemmer helt selv, om hun vil acceptere turen eller ej.
(2) Dynamisk prisregulering. Turprisen varierer både efter tidspunkt på dagen og geografisk, alt i overensstemmelse med udbud og efterspørgsel, som løbende indkodes i algoritmen. Indbygget i App’en findes et kort, der i farver viser prisniveauet i forskellige dele af byen. Fra selskabernes side er det tænkt som en motivationsfremmende faktor, der skal opmuntre chauffører til at søge hen i de områder, hvor prisen topper.
(3) Rating. Efter turen skal både passageren og chaufføren evaluere hinanden i en skala på 0-5 stjerner. Chaufføren har desuden en acceptrate, der beregnes efter, hvor ofte hun tager imod en tilbudt tur. Hvis hun holder sin acceptrate over en bestemt grænse, garanterer selskabet en minimum timeløn. Men hvis både acceptrate og passager-rating er lav, kan selskabet deaktivere hende, ligesom passagerer med lav rating risikerer at blive negligeret af chaufførerne.[2]
Hensigten her er at rejse en etisk refleksion, men ikke en refleksion, der specielt drejer sig om Uber. Det er velkendt, at Uber har betydelige etiske udfordringer, både når det drejer sig om håndtering af sexchicane, og når det gælder ødelæggelse af arbejdsvilkårene for taxachauffører verden over.[3] Men her fremdrages Uber kun som repræsentant for en generel tendens: de skjulte algoritmer. Diverse forskning peger på, at hverken chauffører eller kunder har begreb om algoritmernes betydning. Det lyder måske uskyldigt – man sparer vel bare parterne for en masse tankebesvær? Men i marts 2017 kom det frem, at Ubers ledelse også har indbygget et program (kaldet Greyball), der gør det muligt for virksomheden at vildlede byernes magistrater og gå under radaren for de lokale kontrollører.[4]
3.
Et noget anderledes eksempel er algoritmer, der udvælger og prioriterer nyheder på mange medier. Således har en gruppe amerikanske forskere undersøgt algoritmers betydning for udvælgelsen af nyheder på Facebooks NewsFeed – og brugernes reaktion, når de gøres opmærksom på sammenhængen.[5] Det viser sig, at 62,5% af de adspurgte brugere i undersøgelsen var helt uvidende om, at Facebook har installeret algoritmer, der vælger og vrager imellem, hvad der præsenteres for den enkelte Facebook-bruger.
De pågældende forskerne anvender udtrykket: at algoritmerne kuraterer indholdet. Betegnelsen er yderst velvalgt, for en kurator er som oftest en person, der vrager og vælger, hvilke genstande der egner sig bedst til at danne en samlet udstilling, det være sig en kunstudstilling, en historisk udstilling, en etnografisk samling etc.
Indtil nu har det at kuratere henvist til eksempelvis kunsthistorikerens fagligt funderede og æstetisk sensible skøn over, hvilke kunstnere, hvilke malerier, hvilke genrer, hvilke formater osv., der vil kunne tale smukt til hverandre i et udvalg af værker, som tilsammen udgør en kunstudstilling. Spørgsmålet er nu: kan den opgave overlades til en algoritme? Hvis ja, hvilke krav stiller det til den pågældende algoritme? Hvis nej, hvor går så mere præcist grænsen imellem, hvad der kan overlades til algoritmer, og hvad der ikke kan?
Den nævnte undersøgelse af Facebook og udtrykket “kuratering” er bragt ind i den danske debat af én af de første, der for alvor har rejst det nye algoritme-problem offentligt herhjemme: Aske Mottelson, Ph.D. ved Københavns Universitets Afdeling for Computervidenskab. Mottelson skriver bl.a.:
“Algoritmer kuraterer indholdet, så vi ikke selv belemres med at skulle prioritere og filtrere store mænger information.” Men, understreger han, det gør dataloger (som han selv) til “afgørende medspillere i en omfattende teknokratisering. En magtforskydning, som vi ikke engang selv helt har begrebet endnu, endsige forstået konsekvenserne af”.[6]
Hvad betyder det for demokratiets kultur?
4.
Det betyder demokratiets død, slet og ret, observerer den israelske militærhistoriker og forfatter Yuval Harari. Og ”det er allerede begyndt: Paradoksalt nok er det netop den naive tro på valgfrihed, der truer demokratiet allermest” i dag, siger han.[7] Som eksempel på denne naivitet kan nævnes det voksende antal facebookioter, der på trods af al oplysning fastholder at leve i den illusion, at det stadig er mennesker, der hacker computere – og ikke computerprogrammer, der hacker mennesker (nemlig dem selv).[8]
Som så meget andet i vores verden bygger også demokratiet på den græsk-kristne grundtanke, at livets mening hentes i de valg, vi træffer. To be or not to be? Gøre oprør eller bøje hovedet? Forsøge at dræbe tyrannen eller flygte? Gifte sig med Lea eller med Rachel? Emigrere eller leve videre i elendighed? Blive landmand eller gymnasielærer? Men hvis valgene overtages af algoritmer, der kan træffe langt mere rationelle afgørelser end os, hvad er så overhovedet meningen med at leve? Det gælder par excellence i den politiske verden: hvad skal vi vælge for, når computerne gør det langt mere fejlfrit, ræsonnerer Harari.
5.
Algoritmer styrer eller influerer i tiltagende omfang for eksempel:
– hvilke annoncer, jeg skal møde i min mailboks og på min browser;
– hvilken rute og hvilke transportmidler jeg skal vælge i den kollektive trafik;
– fordelingen af nye elever på landets gymnasieskoler;
– hvem, blandt ansøgerne til ledende stillinger, der udvælges til videre samtale;
– hvordan forskellige nyheder prioriteres i mediers tekstbillede;
– hvilke råd og hvilken medicin, lægerne skal ordinere den enkelte patient;
– hvilke fanger, der skal prøveløslades i USA, men også hvilke fanger der skal henrettes;
– hvilke børn, der skal fjernes fra deres familie, og hvilke ikke;[9]
– hvilke borgere, der skal overvåges nøjere af efterretningstjenesterne;
– hvem der skal tilbydes bestemte screeningsprogrammer i sundhedsvæsenet.
Og meget, meget mere. Man kan sige, at autoriteten mere og mere opererer algoritmisk – autoriteten i samfundet og det samfundsmæssige fællesskab.
Teknologihistorikeren Massimo Mazzotti mener ligefrem, at algoritmen som teknologi former nutidens måde at tænke på – ligesom uret var et sindbillede for den newton’ske, mekanistiske verdensanskuelse, og ligesom Den Kolde Krigs store computere i efterkrigsårene var emblematisk for forestillingen om den hemmelige mastermind, der var i stand til at kalkulere i tusinde potens. Mazzotti nævner Quantified Self-bevægelsen som eksempel på, at mennesket nu ser sig selv og sin omverden i algoritmernes billede.[10]
Jeg er ikke ganske overbevist om den pointe. Langt mere betydningsfuldt er det efter min opfattelse, at algoritmerne er skjulte. Den amerikanske data-jurist Frank Pasquale siger i sin bog The Black Box Society, at “den moderne verden ligner mere og mere et énvejs-spejl”[11]. Jeg benytter i mit essay, “Den Anden Oplysningstid” et tilsvarende billede: det inverterede Panoptikon.
6.
I et tankevækkende essay fra 2014, “The Rise of Data and the Death of Politics” spørger den ukrainsk-britiske teknoantropolog Evgeny Morozov: Hvis smarte teknologier bliver svaret på samfundets problemer, hvad sker der så med regeringerne?
“Efterhånden som Silicon Valley fortsætter med at korrumpere sproget med sin endeløse glorificering af ‘disruption’ og ‘effektivisering’ – begreber på kant med demokratiets vokabularium – svækkes vores evne til at sætte spørgsmålstegn ved det afgørende hvordan i den politiske proces. Silicon Valley’s automatsvar på politikkens hvordan er, hvad jeg kalder solutionisme: problemer skal håndteres ved hjælp af apps, sensorer og feedback-kredsløb – som alle skal leveres af smarte iværksættere.”[12]
Måske er der virkelig ved at foregå en epokal transformation i vores forståelse af, hvad regering overhovedet er. Morozov citerer en tale af den italienske filosof Giorgio Agamben, holdt i november 2013 i Athen. Agamben siger her, at i den nye idé om regering “vendes den traditionelle hierarkiske relation mellem årsager og virkninger på hovedet, således at regeringsapparaterne i stedet for at regulere årsagerne – altid et vanskeligt og koststbart foretagende – ganske simpelt forsøger at regulere virkningerne”.[13]
Det er afgørende vigtigt. Årsager kræver det analyse at finde frem til. Virkninger kan derimod hele tiden korrigeres – med sensorer, med ubiquitous computing, med Big Data og Algoritmer. Det passer med tendensen til, at den akademiske ekspertise og den politiske elite i stigende grad forlader opfattelsen af politiske valg som værdivalg – hvad for et samfund ønsker vi? – og i stedet opfatter politik som et spørgsmål om at finde de bedste tekniske løsninger på tekniske problemer.
Åbenbart er vi så lalleglade for alle vores nye high-tech dimser, at vi helt overser, hvad vi er i færd med at miste. Jeg kender en dansk forsker, som er vældig stolt af at have fået amerikansk copyright på en bestemt, digital procedure for anvendelse af Big Data til at ændre folks adfærd (også kaldet nudging). Man afsikrer straks sin etiske pistol: Hvem skal afgøre, hvad der er den rette adfærd? Hvordan skal en sådan beslutning træffes, og af hvem? Hvordan skal den autoriseres? Og hvad nu, hvis synet på den rette adfærd har ændret sig om tre år?
Som den fremragende tyske filosof Byung-Chul Han siger: “frihedens epoke var et mellemspil” i Europas historie.[14] Det varede et par hundrede år. Vi er med stor hast i gang med at afvikle den. Mærkeligt og helt misvisende under navn af individualisme.
NOTER
———
[1] Oprindeligt talemanus til forelæsning på CBS (SACRE) 06.03.2017
[2] Min Kyung Lee et.al., ”Working with Machines: The Impact of Algorithmic and Data-Driven Management on Human Workers”, Proceedings of the 33rd Annual ACM Conference on Human Factors in Computing Systems (CHI’15), pp 1603-1612
[3] Se bl.a. “Uber CEO Travis Kalanick caught on video arguing with driver about fares” i The Guardian, 1.3.2017. Og “Uber-direktør undskylder pinlig optræden: Jeg er nødt til at blive voksen” på dr.dk samme dag.
[4] “How Uber Deceives the Authorities Worldwide”, The New York Times, 03.03.2017.
[5] Motahhare Eslami et.al., ““I always assumed that I wasn’t really that close to [her]”: Reasoning About Invisible Algoritms in News Feeds”, Proceedings of the 33rd Annual ACM Conference on Human Factors in Computing Systems. pp 153-162.
[6] Aske Mottelson, ”Magtblinde it-specialister er en trussel mod demokratiet”, Information, 01.08.2016.
[7] “Wahlfreiheit ist eine Illusion”, Richard Kämmerlings interviewer Yuval Harari, Die Welt 11.05.2017.
[8] Se mit essay, ”Den Anden Oplysningstid”, 20.januar 2017 på KlavsBirkholm.dk
[9] Herom mere i et senere bidrag.
[10] Massimo Mazotti, “Algoritmic Life”, Los Angeles Review of Books, January 22, 2017.
[11] Frank Pasquale, The Black Box Society. The Secret Algorithms That Control Money and Information. 2015: Harvard University Press.
[12] Evgeny Morozov, “The Rise of Data and the Death of Politics”, The Guardian, July 22 2014.
[13] … “the traditional hierarchical relation between causes and effects is inverted, so that, instead of governing the causes – a difficult and expensive undertaking – governments simply try to govern the effects”. Sammesteds.
[14] Byung-Chul Han, Psychopolitik. Neoliberalismus und die neuen Machttekniken. 2014: S. Fischer Verlag