NewTech-konsulenten: Kommunerne har moralsk pligt til at bruge kunstig intelligens

Pligten til at bruge AI

Kommunerne skal ikke være bange for kunstig intelligens, men har faktisk en pligt til at komme i gang.

"Jeg mener, vi har en forpligtelse til at bruge AI. Vi står med et værktøj, som er meget stærkt, og som kan hjælpe en hel masse mennesker," siger Bent Dalager. Han er NewTech-konsulent og partner i KPMG NewTech. 

Det er, som dengang man opfandt bilen: Skulle man så af frygt have undladt at bruge bilen som ambulance og holdt sig til hestevognen? Den type frygt-etik abonnerer Bent ikke på.

"Du har en etisk fordring til at hjælpe folk, særligt hvis du har magten og værktøjet til det. Det synes jeg er fuldstændig glemt i debatten," siger Bent. 

Det er helt bevidst, at Bent bruger udtrykket "etisk fordring".

"Vi er i K.E. Løgstrups hjemland; vi kan ikke sidde her med hænderne i skødet og sige, at vi er bange for at hjælpe folk," siger Bent.

Dermed ikke sagt, at AI er hævet over etiske dilemmaer og overvejelser, når det skal udvikles og anvendes. Løsningerne skal være gennemtestede, og data skal kunne anvendes og være retvisende og fair, men Bent opfordrer til, at man ser kunstig intelligens i et større perspektiv. 

Tale med data

Vi bør sætte os ind i, hvordan kunstig intelligens fungerer, særligt de såkaldte præ-trænede sprogmodeller som eksempelvis ChatGPT. Når vi forstår, hvordan de virker, og lærer, hvordan vi bruger dem i en kommunal sammenhæng, kan vi også lettere håndtere de etiske spørgsmål og dilemmaer, som AI stiller.

"Der ligger et stort arbejde i at etablere systemerne og sikre integrationen mod data. Den gode nyhed er, at sammenligner vi med tiden før generativ AI, var det dengang et endnu større stykke arbejde, der skulle være lavet. Mængden af arbejde er faldet forholdsvis markant," siger Bent.

Den store forskel på før og nu er, at vi kan "tale med data", som Bent formulerer det. 

"Når først du har læst data ind, kan du bare spørge AI’en om det, du har brug for - i modsætning til i dag, hvor du forsøger at lave avancerede analyseværktøjer, som man skal klikke rundt i. I det øjeblik, du "connecter" data med AI, kan du "prompte" AI-løsningen," siger Bent. 

Hermed henviser han til den dialogiske chat-funktion, som flere generative AI-løsninger som ChatGPT er bygget op omkring. Det betyder for eksempel, at en borger, der kontakter kommunen, i fremtiden ofte bare vil kunne skrive eller tale med AI-løsningen og blive ved med at spørge og på den måde få mere viden, som er relevant netop for ham eller hende. I kommunen kan sagsbehandleren få støtte undervejs i samtaler med borgere, og i den tilhørende sagsbehandling kan AI give stor støtte, også til at træffe afgørelser. 

"Det er ikke tanken, at afgørelsen kommer fra AI. Den kommer med et bud og begrunder hvorfor. Men det skal selvfølgelig være sagsbehandleren, der siger, hvordan vedkommende synes, det hænger sammen, og ikke AI i sidste ende," siger Bent.

Det forudsætter selvfølgelig, at den kunstige intelligens-løsning er præ-trænet korrekt og med korrekte data. Når det så er sagt, mener Bent desuden ikke, at man skal se en AI-løsning som en perfekt intelligens.

"Den er en erfaren medarbejder, som man skal huske at stille spørgsmålstegn ved, hvis noget virker forkert," siger Bent.

For vi mennesker begår jo også fejl, og det er ikke altid, at vi opdager fejlene i vores sagsbehandling. AI vil også begå fejl, men skal være testet til et niveau, hvor den laver færre fejl end et menneske med samme opgave, mener Bent. 

Jura kan spænde ben, men også være redningen

Der er mange hensyn at tage, når man vil tage AI i brug. Ét er it- og data-sikkerhed, men her er AI-løsninger ikke nødvendigvis mere usikre end at søge i Google eller bruge Google Translate. Noget andet er borgernes ret til data, og her mener Bent, at EU’s GDPR-forordning - eller rettere den danske fortolkning af forordningen - er en hæmsko. Forordningen tolkes nemlig sådan, at data, der angår udsatte personer og grupper af personer, ikke må bearbejdes i AI-løsninger. Så personer, der har behov for hjælp, bliver specifikt holdt ude fra den mulighed, netop fordi de har behov for hjælp. 

"Sådan tolkes forordningen, idet personer, som har brug for hjælp, anses for at være i et ulige magtforhold over for myndighederne og derfor ikke må give samtykke til at bruge deres data, selvom de ønsker det. Her har vi efter min mening det største problem. Man bliver simpelthen nødt til at få ændret lovgivningen" siger Bent. 

Om Kommunernes Digitaliseringstræf

Tag med på Kommunernes Digitaliseringstræf '24, og hør NewTech-konsulent Bent Dalager, partner i KPMG NewTech. 

Digitaliseringstræffet er en årligt tilbagevendende begivenhed, som er et vigtigt mødested og inspirationsrum for alle, der på den ene eller anden måde er interesseret i at følge med i digitalisering i kommunerne. 

• Mange vælger at tage af sted på digitaliseringstræffet flere kolleger sammen for at høste fælles viden ind til det videre arbejde hjemme i kommunen. 
• Brug dagen med digitaliseringstræffet som en naturlig anledning til at styrke jeres fællesskab. Så kommer I hjem med ny inspiration som fagfæller og kolleger på kryds og tværs af kommunen.
• Digitaliseringstræffet er også stedet, hvor vigtige it-leverandører til kommunerne prioriterer at være til stede. Rundt om ved deres stande fortæller de om deres løsninger og produkter. Brug træffet til at stille leverandørerne netop de spørgsmål, der er vigtige for jer. Her får I den gode snak, som man ofte ikke når i den travle hverdag derhjemme i kommunen. 

Tid og sted

Mandag den 22. april 2024 på Scandic Falconer (Frederiksberg)

Målgruppe

Målgruppen er direktører, chefer og ledere fra alle kommunens fagområder samt medarbejdere inden for it, digitalisering og teknologi.  

Pris og vilkår

2.575,- + moms 

Tilmelding sker efter først-til-mølle-princippet. Tilmeldingen er bindende, men du er velkommen til at sende en kollega, hvis du selv bliver forhindret.

Spørgsmål

Eventuelle spørgsmål kan rettes til arrangementsinfo@kl.dk