Redegørelse skrevet til TeknoEtik og offentliggjort 25.april 2020
Af KLAVS BIRKHOLM
© TeknoEtik – må gerne citeres med kildeangivelse
Kloden rundt arbejdes der i disse måneder intenst på at udvikle diverse sporings-App’s, der kan bidrage til at begrænse spredningen af Covid-19 virus. Ugemagasinet New Statesman talte den 22.april op til 43 App-projekter i 23 lande.[1] Herhjemme trompeterede DR den 21.april: ”Danmarks corona-app har fået et navn”; den skal ”efter alt at dømme hedde smittestop”, og ”den skal ikke kun bruges til at opspore smittede – den vil også give data til Statens Serum Institut” (SSI).[2]
Firmaet bag ”smittestop” er i øvrigt Netcompany, en norsk-dansk IT-konsulent-virksomhed med milliardkapital og datterselskaber i Polen, Vietnam, Holland og Storbritannien.[3]
Også på EU-niveau arbejdes der på livet løs med flere forskellige projekter. En gruppe forskere og virksomheder er gået sammen om det såkaldte PEPP-PT (Pan-European Privacy-Preserving Proximity Tracing).[4] Det er en protokol, som indtil for ganske nylig har været tænkt implementeret i nationale varianter i både Tyskland, Frankrig og Italien.[5] Men der er flere andre, tværnationale projekter, ligesom både Google og Apple har meldt deres tilstedeværelse i det europæiske opløb.
Imidlertid er en række, dybtgående uenigheder mellem de involverede forskere i løbet af april blevet mere og mere tydelige.[6] Det drejer sig hovedsagelig om uenigheder vedrørende de forskellige løsningers etiske og sikkerhedsmæssige konsekvenser.
Forskere siger fra
Der findes ikke noget menneskeliv, som ikke er værd at redde, og derfor er det selvsagt berettiget at afsøge alle muligheder for at begrænse udbredelsen af både almindelig influenza, Covid-19 og andre, mere farlige sygdomme.
Under epidemier og pandemier er kontakt-sporing et velkendt og prøvet middel; hidtil har det været gjort manuelt, hvilket selvsagt tager tid og desuden er begrænset til personer, der allerede er blevet identificeret som smittede. Derfor er det nu blevet indlysende at spekulere i en form for kontakt-sporing via Smartphones, for på den måde at effektivisere indsatsen.
Mindre indlysende er det tilsyneladende, at indførelsen af en sådan digital sporing vil være det mest radikale tiltag i dansk politik siden besættelsestiden. Når man læser de sociale medier og f.eks. ovennævnte DR-artikel får man nærmest indtryk af lallende jubel (”den vil også give data til Seruminstituttet, juhuu!”) – uden den ringeste opmærksomhed på, hvor voldsomt et indgreb i flere afgørende grundrettigheder, der her arbejdes med. Vi skal ikke ret mange år tilbage, før end planer af den slags ville blive betragtet som nærmest kriminelle i størsteparten af den danske offentlighed.
I Holland har 58 forskere fra en række forskellige, videnskabelige discipliner den 13. april afleveret en fælles erklæring til landets statsminister, sundhedsminister og justitsminister vedrørende de mange risici, som gemmer sig i de to hollandske App-projekter.[7] Selv om hensigten er god, kan de sociale konsekvenser være meget omfattende, både på kort og på lang sigt, og derfor er det nødvendigt at gennemtænke projekterne nøje, skriver forskerne. Henvendelsen har medført, at regeringen i Den Haag den 23.april i en overraskende kovending har stillet de hidtidige planer om implementering af de to App’s i bero, indtil en ny kommission har undersøgt problemerne til bunds og er kommet med holdbare løsninger. ”Vi kan ikke gå på kompromis med beskyttelsen af privatlivet”, erklærede sundhedsminister Hugo de Jonge.
Måske endnu mere bemærkelsesværdigt har ikke færre end 323 kryptografer og videnskabsfolk fra hele verden den 19.april offentliggjort en fælles erklæring om diverse teknologiske og etiske risici ved PEPP-PT.[8] Her hedder det blandt andet: ”Vi opfordrer alle stater til udelukkende at satse på systemer, der underkastes offentlige krydsforhør, og som i selve deres design sørger for at opretholde privatheden – i stedet for at bygge på en forventning om, at de forvaltes af en aktør, man kan stole på.” (Det engelske fagudtryk er privacy by design.)
Blandt underskriverne er to danskere, professorer i kryptografi på Aarhus Universitet, Ivan Damgård og Claudio Orlando. Men også canadieren Charles Taylor, en af nutidens mest anerkendte etik-filosoffer, figurerer på den prominente liste.
Både den hollandske og den globale erklæring forener eksperter fra mange fag – computervidenskab, etisk teknologivurdering, jura, kunstig intelligens, matematik, psykologi og en række medicinske specialer. Men fokuspunkterne er ret forskellige, og der kan derfor være grund til at ridse op, hvad en etisk teknologivurdering må indeholde i et tilfælde som dette.
Vælg det simple
Den hollandske tekst rummer en formulering, der kan gælde som udgangspunkt for enhver teknologivurdering: ”Teknologi er meget sjældent løsningen på et bestemt problem.Vi må tage os i agt og undgå tekno-solutionisme. Det er vigtigt altid at fastholde muligheden for ikke at bruge [den nye teknologi, som i dette tilfælde er] App’en. Findes der mindre indgribende løsninger, bør de prioriteres.”[9]
Findes der mindre indgribende løsninger, bør de prioriteres. Tekno-solutionisme er et udtryk, der er præget af den amerikansk-hviderussiske teknologiskribent Evgeny Morozov, som opremser en række eksempler på, hvordan de digitale teknologier frister os til at implementere ”smarte” løsninger på ”problemer”, der slet ikke eksisterer, eller at vælge overkomplekse, teknologiske svar på ellers meget simple opgaver.[10]
De ”mindre indgribende løsninger”, som hollænderne taler om, kunne for eksempel dukke op i de hvide telte, som myndighederne har stillet op i Fælledparken og andre steder i Danmark: test og manuel sporing. Men det er selvfølgelig ikke løsninger, som kan gavne bundlinjen hos hverken Netcompany eller de mange tech-virksomheder, der har blikket stift rettet mod sundhedsdata i store mængder.
En konkret teknologivurdering
Efter denne, indledende overvejelse – husk at vælge det simple – er det første trin i en etisk teknologivurdering altid at undersøge, om teknologien ”fungerer” som påtænkt; altså, om den er effektiv og pålidelig, og om den måske kan have uheldige bivirkninger, som forskerne og designerne har overset.[11] Her, hvor det drejer sig om en sporings-App er denne undersøgelse meget vigtig, for hvis sporingen er upræcis, kan det øge smitterisikoen og bidrage til at skabe en falsk tryghed blandt brugerne.
Langt de fleste af de igangværende App-projekter har fravalgt sporing via GPS. Erfaringer fra bl.a. kriminal-efterforskninger har nemlig forlængst vist, at GPS-sporinger er for upræcise. Derfor satser de fleste nu i stedet på sporing via Bluetooth. Men det rejser nogle andre, ret omfattende præcisions-problemer. For eksempel: Hvis Bluetooth-sporing skal være effektiv, forudsætter det, at alle borgere hele tiden bærer en smartphone med Bluetooth slået til. Hvordan kan man sikre, at ingen slår deres Bluetooth fra? Og hvad med alle dem, der slet ikke har en smartphone?
En del, mere teknologibevidste mennesker har valgt smartphonen fra, fordi de ved, hvor meget den kan udspionere sin brugere. Det må naturligvis være en menneskeret ikke at have en smartphone – ellers er vi allerede mere end halvvejs ovre i det orwellske Big Brother-samfund. Og hvis vi – konservativt – antager, at 20 procent af en befolkning går rundt uden aktiveret Bluetooth, hvad er sporingen blandt de resterende 80 procent så overhovedet værd? Marginen for fejlsporing vil være meget stor.
Decentral dataindsamling
Andet trin i en etisk teknologivurdering er at undersøge de eventuelle muligheder for misbrug af teknologien. Altså ikke lige de muligheder, udviklerne har haft for øje – de skal jo først og fremmest få teknologien til at fungere og kommer derfor let til at overse andre, mindre venlige anvendelser.
Det er præcis på dette trin, den store splittelse er fremkommet, som har fået de førnævnte 323 forskere til at sige fra i en fælles erklæring. Det centrale stridspunkt er, om borgernes kontaktdata skal transmitteres til en central server, eller de skal forblive på hver enkelt brugers mobiltelefon (sidstnævnte teknologi benævnes DP-3T).[12]
Forskerne skriver: ”Det er afgørende vigtigt, at borgere har tillid til Applikationerne, hvis disse skal kunne samle tilstrækkeligt materiale til at tackle krisen. Derfor må vi på vores vej ud af den nuværende undtagelsestilstand for alt i verden ikke frembringe et redskab, der muliggør en storstilet dataindsamling på befolkningen, enten nu eller senere. Løsninger, der vil tillade at rekonstruere invasive informationer om befolkningen, bør afvises uden nogen som helst debat. Sådanne informationer kan også indbefatte den ’sociale graf’ over, hvem nogen har mødtes med fysisk i løbet af et bestemt tidsrum.”
Årsagen til denne advarsel er selvfølgelig, at ondsindede eller umoralske aktører – stater, private virksomheder, hackere – vil kunne misbruge de omtalte ’sociale grafer’ til afpresning, manipulation, adfærdsstyring og alt for nærgående reklamer.
Men idéen om at benytte Bluetooth Low Energy (BLE) til kontaktindsamling på den enkeltes mobiltelefon – og kun der – således at personer, der har været i kontakt med en smittet kan modtage en alarm, som ingen andre ser, er nok værd at forfølge. For som enhver forsker i Big Data og enhver kryptograf ved: en central server ejes og bestyres altid af nogen, og myten om at data kan anonymiseres eller ”pseudonymiseres” er for længst skudt ned. Det vil altid være muligt at føre persondata, det være sig sundhedsdata, kontaktdata, adfærdsdata eller andet, tilbage til den oprindelige person.
Derfor er det også værd at notere, at EuropaParlamentet den 17.april valgte at støtte den decentrale tilgang. Men på den anden side rummer DP-3T også en risikabel fejlkilde: en melding til de personer, mobiltelefonens ejer har været i nærheden af de seneste tre uger, vil kun finde sted, hvis han eller hun selv aktiverer sin App. Og her kommer risikoen for, at nogle smitteramte frygter stigmatisering, måske til at spille ind? Og igen: Uanset hvilken protokol, forskerne vælger, må det fremdeles være en helt elementær ret for alle mennesker at gå rundt uden mobiltelefon, hvilket under alle omstændigheder vil begrænse værdien af en sporings-App.
Overvågning
Tredje og sidste trin i en etisk teknologivurdering bør være en reflekterende undersøgelse af de kulturelle følgevirkninger på længere sigt ved indførelsen af en specifik teknologi. Det er selvsagt det mest krævende trin.
Som den hollandske tekst nævner, dokumenterer flere forskningsstudier, at mennesker ændrer adfærd, hvis de er vidende om at blive overvåget. I Kina er det netop meningen med en del af statens massive indsats med overvågningsteknologier, men det samme er vel næppe ønskværdigt i Vesten? Solbadende danskere på Islands Brygge skal helst ikke holde afstand, fordi de ved sig registrerede, men fordi de efter egen beslutning ønsker at følge myndighedernes fornuftige råd.
Den forskel kaldes den frie vilje, og den anser vi for afgørende for, at der overhovedet kan tales om et demokrati.
På længere sigt må endelig nævnes den advarsel, som er fælles for alle de ovenfor omtalte kritiske forskere: En vellykket digital overvågning kan næppe undgå at skabe præcedens, dertil er de potentielle gevinster for store og for lokkende – både de økonomiske og de politiske (magtmæssige) gevinster. Hvad nytter en ”solnedgangsklausul”, hvis fristelsen for nogle virksomheder er valget mellem et nærmest frit tilgængeligt tag-selv bord og en tilbagevenden til negative regnskabstal og faldende aktieværdi? Eller hvis fristelsen for visse, magtgrådige politikere er den nemme vej til at undgå alternativet: et liv i skyggen og uden indflydelse?
Hvad det sidste angår, behøver vi ikke udelukkende at tænke på typer som Recep Erdogan og Nursultan Nazarbayev, men kan også minde om vestlige ”rådgivere” som Steve Bannon i USA og Dominic Cummings i Storbritannien. Siden Facebook-skandalen sprang i februar 2018 har offentlighed fået gentagne beviser for, hvor værdifuld borgernes ”sociale graf” (adfærdsdata) kan være for stort set alle politiske partier og kandidater.
Og hensigten helliger ikke midlet. Vejen til Helvede er altid brolagt med ædle hensigter. Så sent som den 20.april henvendte Frankrigs minister for digitalisering, Cedric O sig til både Apple og Google og bad dem om at tilsidesætte den privatheds-beskyttelse, der er indbygget i deres mobiltelefoners Bluetooth.[13] Lige nu er det alt for nemt for enhver regering, også den franske, at argumentere for nødvendigheden af en central registrering af alle borgeres whereabouts. Eksperter, der er tættere på teknologierne, ved til gengæld allerede, hvor farligt det er at åbne for dén Pandoras æske.
Når en magtfuld teknologi én gang er opfundet og udviklet, er den stort set umulig at ”nedfinde” og afvikle igen. Tænk på atombomben, der lige siden opfindelsen har været anvendt til international magtudøvelse. Tænk på teknologier til genredigering, nu også af mennesker (CRISPR). Eller tænk på mange andre eksempler!
Summa summarum vil for mange forkerte interesser blive begunstiget med en fungerende overvågningsteknologi. Der findes ingen snuptagsløsninger på epidemien, ingen nemme udveje. Til gengæld er vejene ud af demokratiet alt for nemme.
NOTER
[1] NS-Tech, 22.04.2020.
[2] DR.dk – penge 21.04.2020. Se: https://www.dr.dk/nyheder/penge/danmarks-corona-app-har-faaet-et-navn-her-er-detaljerne
[3] Hvordan det går til, at den danske stat er så ’forlovet’ med Netcompany, er en selvstændig historie, som vi ikke vil forfølge her.
[4] Se: https://github.com/pepp-pt/pepp-pt-documentation/blob/master/10-data-protection/PEPP-PT-data-protection-information-security-architecture-Germany.pdf
[5] Se “France’s Inria and Germany’s Fraunhofer detail their ROBERT contact-tracing protocol” I TechCrunch 20.april 2020. – https://techcrunch.com/2020/04/20/frances-inria-and-germanys-fraunhofer-detail-their-robert-contact-tracing-protocol/
[6] Se for eksempel FORTUNE, 20.4.2020: “Controversy around privacy splits Europe’s push to build COVID-19 contact-tracing apps” – https://fortune.com/2020/04/20/coronavirus-contact-tracing-privacy-europe-pepp-pt-dp3t-covid-19-tracking/
[7] Brevet er publiceret som PDF: https://allai.nl/wp-content/uploads/2020/04/Online-versie-Brief-Minister-President-Rutte-Ministers-De-Jonge-Van-Rijn-Grapperhaus-de-heer-Sijbesma-inzake-COVID-19-tracking-en-tracing-en-gezondheidsapps.pdf
[8] Se hele debatten på GitHub. https://github.com/ROBERT-proximity-tracing/documents
[9] Se i note 1. Her fra afsnittet ”Samenvatting van de belangrijkste punten”.
[10] Klavs Birkholm & Niels Frølich (red.): De skjulte algoritmer. Teknoantropologiske perspektiver. DJØF-forlag 2018. Se side 239-65.
[11] Jeg følger her de tre trin i den tekno-antropologiske model for etisk teknologivurdering, som jeg i 2013 har udviklet ved Aalborg Universitet (”Birkholm-modellen”). Se eventuelt: https://www.teknoetik.org/2019/05/15/the-ethical-judgment-teaching-and-learning-techno-ethics-reprint/
[12] “Decentralized Protocol Removed From EU Contact Tracing Website Without Notice”, coindesk, 16.04.2020 – https://www.coindesk.com/decentralized-protocol-removed-from-eu-contact-tracing-website-with-no-notice – Se også: Xavier Bonnetain m.fl., “Le traçage anonyme, dangereux oxymora. Analyse de risques à destination des non-spécialistes” – https://risques-tracage.fr/ (fortrinsvis forskere fra INRIA)
[13] “France says Apple Bluetooth Technology is Blocking Virus Tracker”, Bloomberg News 20.4.2020 – https://www.bloomberg.com/news/articles/2020-04-20/france-says-apple-s-bluetooth-policy-is-blocking-virus-tracker