16. maj 2019

Dataetik på Kommunernes Digitaliseringstræf 2019 - hvor langt må vi gå?

To samfundsdebattører med forskellige synspunkter på dataetik mødes i debat på Kommunernes Digitaliseringstræf 2019 den 6. juni i Odense, nemlig Birgitte Arent Eiriksson fra tænketanken Justitia og Lisbeth Zornig Andersen fra Huset Zornig. Få optakten her med interviewet af Birgitte. Tilmelding til Kommunernes Digitaliseringstræf 2019 er åben.

Principper og konsekvenser

For Birgitte Arent Eiriksson fra tænketanken Justitia er der ingen tvivl: Debatten om kommunernes indsamling og brug af borgernes data må tage udgangspunkt i juridiske grundprincipper og i umistelige rettigheder, og debatten må derfra pege frem mod de goder, som et retfærdigt og velordnet samfund må skabe og bevare. Hvis ikke vi tænker os grundigt om og handler klogt, kan vi som samfund risikere, at digitalisering og brug af data ikke fører til det bedre men fører til en ulige fordeling af retsgoder og retssikkerhed borgerne indbyrdes, mener Birgitte.

“Jeg ser med bekymring på, at ressourcesvage borgere kan risikere at få en dårligere retsstilling end i dag, fordi de med digitaliseringen pludselig får lagt deres retssikkerhed og rettigheder i egne hænder. Det er jo det, der typisk sker, når man bliver udsat for digitale processer. Det er mange ikke klar til. Samtidig får de ikke længere den samme helhedsorienterede og fagprofessionelle sagsbehandling som før. Det kan føre til, at vi ender med to forskellige retssikkerhedsniveauer: Et niveau for de ressourcestærke og et andet forringet niveau for de ressourcesvage”, siger Birgitte.

 

Er data og algoritmer retfærdige?

Umiddelbart skulle man omvendt forvente, at den øgede brug af borgerdata og tilhørende algoritmer ville bringe mere objektivitet, ensartethed, forudsigelighed og ligelighed i den offentlige forvaltning. Algoritmer gælder jo ens for alle, og det vil da være til gavn for alle borgere - eller hvad? Så enkelt kan det ikke stilles op, mener Birgitte. Tværtimod kan vi blive forblændede af digitaliseringens tilsyneladende objektivitet, så vi overser risikoen for de mange faldgruber på både det principielle og det praktiske plan. Risikoen for en ulige retssikkerhed borgerne indbyrdes er reel.

 

Tre gode råd til den kommende digitalisering

Sammenfattende anbefaler Birgitte, at de danske myndigheder tager tre vigtige hensyn og opgaver på sig, når de fortsætter med at digitalisere i de kommende år: Lovlighed, konsekvensanalyser og supplerende manuel sagsbehandling.

For at tage det sidste først: Den gode digitalisering vil tage hensyn til alle borgere og supplere de nye digitale muligheder med håndholdt og analog støtte til dem, som ikke mestrer digitaliseringen fuldt ud eller af andre årsager har behov for særlige hensyn, understreger Birgitte. Danske myndigheder, herunder kommunerne, skal indrette de digitale systemer brugervenligt og imødekommende, og borgere skal ikke rammes utilsigtet, hvis de eksempelvis ikke lige forstår at udfylde alle felter i en online formular korrekt.

Samtidig bør systemet i videst muligt omfang kunne identificere de borgere, der har behov for særlige hensyn, og som derfor skal udtages til manuel sagsbehandling. Manglende håndtering af disse udfordringer kan ofte betyde, at en borger og hele hans eller hendes familie kan stå til at miste ydelser og hele deres forsørgelsesgrundlag, så de må gå fra hus og hjem. Derfor må vi stille krav til digitaliseringen.

Men først og fremmest skal alle, der digitaliserer, naturligvis overholde lovgivningen, sådan som det gælder for al offentlig forvaltning.

Man skulle tro, at dette var en selvfølge, men det er faktisk ikke helt så enkelt. Og med lovgivning mener jeg både den nationale lovgivning og databeskyttelsesforordningen, men også vores menneskerettigheder”, siger Birgitte.

Endelig anbefaler Birgitte på baggrund af de to andre anbefalinger, at de offentlige myndigheder går i gang med at foretage en række konsekvensanalyser af de digitaliseringstiltag, man vil sætte i værk.

“Man skal være sikker på, at man ikke kommer til at lave processer, hvor borgernes retssikkerhed kommer til at lide under det, eller hvor deres rettigheder bliver tromlet ned, eller hvor vi begynder at anvende data på en ikke-etisk måde. Det er noget af det, som disse konsekvensanalyser kunne hjælpe med at åbne op for”, siger Birgitte.

 

Fundamentet skal være i orden

Lovlighed, hensynsfuld brugervenlighed, etik og gennemtænkte tekniske løsninger er vigtige, fordi det handler om noget så fundamentalt som borgernes tillid til de offentlige myndigheder. Hvis tilliden sættes på prøve, risikerer vi at svække vores rets- og samfundsorden og dermed hele legitimiteten af vores demokratiske samfund, understreger Birgitte. Derfor må debatten om data-etik og digitalisering i det hele taget føres både på et principielt plan og med øje for mulige konsekvenser.

 

Retten til et privatliv

Når Birgitte er ude og holde foredrag og deltager i debatter, undrer det hende, hvor lavt danskerne vurderer vores allesammens ret til et privatliv. Det er en ret, som er forankret i Menneskerettighedskonventionen, og som er meget let at komme til at overskride i forbindelse med digitalisering.

“Jeg har undret mig meget over, hvorfor borgerne ikke i højere grad interesserer sig for deres ret til privatliv. Det er måske fordi, man et eller andet sted tænker, at det er en slags samfundskontrakt, at hvis man eksempelvis modtager en ydelse, skal man som borger også være forberedt på, at myndighederne overvåger dig hele tiden for at se, om du lever op til betingelserne”, siger Birgitte.

 

3 betingelser forankret i menneskerettighederne

Retten til privatliv og de øvrige menneskerettigheder er blandt andet udtrykt i Den Europæiske Menneskerettighedskonvention og EU’s charter om grundlæggende rettigheder, hvilket Danmark er bundet af, og de rettigheder skal naturligvis respekteres. Det er dog ikke alle rettigheder, der er absolutte, og retten til privatliv kan indskrænkes, når tre betingelser er opfyldt:

  • Legitimt formål
  • Klar lovhjemmel
  • Nødvendigt og proportionalt indgreb

“Jeg er faktisk aldrig stødt på et tilfælde, hvor kommunernes formål med at indskrænke retten til privatliv ikke har været legitimt. Derimod kan det generelt knibe med den klare lovhjemmel. Efter min vurdering er for eksempel Udbetaling Danmarks adgang til at behandle borgernes data ikke afgrænset tilstrækkeligt klart. Den sidste betingelse er typisk den mest problematiske. Det er eksempelvis svært at argumentere for, at man skulle kunne overvåge alle børnefamilier i Danmark for at finde de familier, hvor børn kan risikere at komme i mistrivsel på et eller andet tidspunkt. Det er et meget stort indgreb i alle familiers ret til privatliv med henblik på at finde ganske få sager, og derfor er indgrebet problematisk både i forhold til at være nødvendigt og proportionalt”, siger Birgitte.

Om man burde formulere et specifikt sæt digitale friheds- og menneskerettigheder, er Birgitte ikke sikker på. Meget er allerede dækket ind via eksisterende menneskerettigheder og national lovgivning. At myndighederne sikrer, at borgerne får transparens og kontrol med egne data, er et mere nærliggende skridt at tage, mener hun, og så hilser hun det velkomment, at vi i Danmark netop her i foråret 2019 har etableret et Dataetisk Råd.

 

Genbrug af data?

En vigtig del af den transparens og kontrol, som borgeren selv skal have over egne data, skal også gælde spørgsmålet om borgerens samtykke til indsamling og brug af data - særligt når en myndighed gerne vil genbruge indsamlede data til andre formål, end det oplysningerne oprindeligt blev indsamlet til. Eksempelvis når man vil samkøre registre i kontroløjemed - og det gælder på alle domæner: Sundhed, økonomi, beskæftigelse og så videre. Det overraskede Birgitte, at Folketinget vedtog en undtagelse til databeskyttelsesforordningen i den danske databeskyttelseslov, som åbnede op for en videre genbrug af data uden samtykke, uanset om behandlingen er uforenelig med det oprindelige formål - dog blev undtagelsen knap så omfattende, som det oprindeligt blev foreslået i lovgivningsarbejdet.

 

Dataetik

Digitaliseringen, som skal håndteres lovligt i henhold til jura, har også etiske aspekter, der skal tænkes med. De etiske aspekter handler om menneske- og samfundssyn, og de angår særligt spørgsmålet om, hvor langt vi bør eller ikke bør gå med at skabe personnære dataprofiler og den efterfølgende mulighed for personlig overvågning og kontrol samt forudsigelser om adfærd. Birgitte nævner, at der findes forskning om, hvorvidt digitaliseringen kan bruges effektivt til kontrol, men hun savner mere forskning om, hvordan den øgede overvågning påvirker os som mennesker. Ændrer vi adfærd i en eller anden retning, når vi overvåges? Hun nævner nogle eksempler fra Chicago i USA, men også fra Gladsaxe i Danmark. I de pågældende cases handler myndigheder sådan, at de ud fra givne data om den enkelte person og ud fra tilhørende antagelser om, at man med etablerede datamønstre og årsags-virknings-forhold kan forudsige og dermed forhindre misbrug, social deroute og decideret kriminalitet.

 

Undgå digital skæbne

Men er det overhovedet plausibelt, endsige rimeligt, at en myndighed handler ud fra den slags antagelser om, hvad der nærmest kan kaldes personlig skæbne og om systemets alviden og almagt? Det mener Birgitte ikke, og hun er også meget skeptisk over for Udbetaling Danmark, som ikke mener, at noget kan kaldes overvågning, førend at en indsamling, samkøring eller brug af data overgår fra at være rent maskinel til at blive håndteret af levende mennesker og til rent faktisk at medføre konsekvenser for den borger, hvis data det handler om. For Birgitte er der ingen tvivl om, at personhenførbare data er en vigtig del af hver enkelt persons identitet, og det skal der værnes om.

 

Læs mere og tilmeld dig Kommunernes Digitaliseringstræf 2019

Hør Birgitte Arent Eiriksson fra tænketanken Justitia debattere med Lisbeth Zornig Andersen fra Huset Zornig på Kommunernes Digitaliseringstræf 2019.

Læs programmet og tilmeld dig her:

Arrangement

Konferencer og messer Kommunernes Digitaliseringstræf 2019

På Kommunernes Digitaliseringstræf 2019, den 6. juni i Odense mødes vi og deler erfaringer og viden med hinanden. Her er rig mulighed for at netværke, deltage i spændende sessioner og debattere.

Praktiske spørgsmål om tilmelding m.v. kan du rette til chefsekretær Anja Lønbo på alb@kl.dk / tlf.: 33 70 34 97. Angående øvrige spørgsmål kan du kontakte vicekontorchef Jan Struwe Poulsen på jtp@kl.dk / tlf.: 33 70 32 34.