"Jeg er virkelig træt af at diskutere med AI-botter"
- og hvad en advokats hverdag fortæller os om digitalisering
Citatet stammer fra Mia Troensegaard Valsgard. Hun er advokat med speciale i familieret og driver en mindre advokatfirma, hvor sagerne ikke forsvinder ind i store, anonyme teams, men lander direkte på hendes bord.
Det er en vigtig del af historien. For når man er et mindre firma, er der ikke en digital enhed, en AI-taskforce eller en jurastab til at sortere og kvalitetssikre det, der kommer ind. Det er mennesker. Faglighed. Tid.
Det er selvfølgelig ikke en decideret AI-bot, Mia diskuterer med. Det er de henvendelser, der tikker ind i hendes mailbakke. Tekster så polerede, så stringente og så sprogligt perfekte, at hun allerede i første afsnit tænker: Det her er ikke skrevet af en far midt i en bodeling. Det er skrevet af en maskine med selvtillid. Og desværre også med fejl.
I stigende grad oplever hun og flere af hendes fagfæller, at klienter udfordrer hendes faglige vurderinger med henvisning til, hvad en åben AI-model har "vurderet". Argumenterne ser overbevisende ud. Paragrafferne er velformulerede. Konklusionerne er bastante. De holder bare ikke juridisk.
Hun fortæller om en samarbejdspartner, hvis klient havde bedt ChatGPT vurdere, om hendes svar var "hensigtsmæssigt". Om en mand i en samværssag, hvis modsvar var så tydeligt robotformuleret, at det næsten manglede strømstik. Og om en henvendelse, hvor en klient skrev: "Min rådgiver har vejledt mig til at klage over dig til Advokatklagenævnet." Rådgiveren viste sig at være OpenAI.
Det er både tragikomisk og alvorligt på samme tid.
AI som sandsigerske – og som arbejdsskaber
Mia bruger selv AI. "I nogle situationer er det et sindssygt godt værktøj," siger hun.
Hun bruger det som støtte, når en juridisk forklaring skal foldes ud, så den giver mening for mennesker, der ikke taler "juridisk". Hun foreslår det også til klienter, hvor det kan være svært at beskrive et hændelsesforløb, hvor følelserne ofte hænger uden på tøjet. Her kan AI hjælpe med at strukturere tankerne, sætte punktummer de rigtige steder og skabe overblik.
Men.
Når værktøjer som for eksempel OpenAIs GPT-4, Anthropics Claude eller Googles Gemini bliver brugt som facitliste, opstår problemet. "Det er, som om AI er blevet en slags sandsierske," siger Mia.
Måske netop fordi svarene er så velformulerede og menneskeligt klingende, og fordi AI er tilbøjelig til at give os ret i vores påstande. Forskning viser, at jo mere et system fremstår menneskeligt og troværdigt i sit sprog, desto svagere bliver vores evne til at forholde os kritisk til de svar, det giver os. Og så begynder ringene i vandet.
For når en klient sender en 12 siders AI-genereret argumentation til sin advokat eller en myndighed, skal det læses. Vurderes. Besvares. "Inden for forvaltningsretten er man forpligtet til at behandle det hele," forklarer Mia. Og når næsten halvdelen af danskerne bruger generativ AI ifølge Danmarks Statistik, så er det ikke små krusninger. Det er bølger.
"Glem ikke den arbejdstid, det genererer for sådan nogle som mig… hvem skal betale for det? Det er klienten," konstaterer Mia tørt. Det er ikke sagt bittert. Mere som en, der kan se, at forbedringer ét sted skaber merarbejde et andet.
Tillid er ikke en algoritme
Mia er også bekymret for konsekvenserne på et dybere plan. Hun fortæller om en klient, der havde spurgt en AI-chatbot, hvilken bestemmelse i retsplejeloven der gav adgang til tvangsfuldbyrdelse af en samværsaftale. Botten henviste til det forkerte afsnit.
"Borgere kan vælge selv at tage deres sag i retten. Hvis de havde fulgt det råd, var sagen faldet fra hinanden, og børnene kunne risikere at miste retten til at se deres far."
Her bliver det tydeligt, hvad der er på spil: Tillid.
AI kan være en glimrende assistent. Den kan hjælpe os med at formulere os, strukturere os, komme i gang. Men den bærer ikke ansvar. Den står ikke i retten. Den mister ikke sin autorisation. Den mister ikke retten til at se sine børn – eller en af sine forældre.
Det gør mennesker.
"Det er mit ansvar at efterprøve de påstande, vores klienter kommer med. Tjekke data. Finde de steder i lovgivningen, der understøtter deres sag, og hvor den ikke gør. Problemet opstår, når de begynder at bruge AI som en erstatning for vores faglige vurdering," forklarer hun.
Vi kommer her ind på de specialiserede AI-platforme udviklet specifikt til advokater. Systemer trænet på juridiske databaser og designet til professionel brug. Mia anerkender, at de er gode. Men hun bruger dem ikke selv.
"Det er en ekstra udgift," svarer hun og trækker let på skuldrene. "Min juridiske hjerne er også en muskel. Og den skal holdes ved lige."
Hun kan faktisk godt lide at læse lovgivningen igennem. Slå op. Finde argumenter. Se, hvor bestemmelserne hænger sammen. Hvor er der undtagelser? Hvad siger praksis? Altså hele det håndværk, man som advokat er trænet i.
Og måske er det her, noget centralt i vores AI-debat ligger gemt. Når vi siger, at vi kan overlade de "kedelige" opgaver til AI - hvem definerer så hvad der er kedeligt? Og hvad sker der med vores faglige spændstighed, når vi gør det?
Hvad kan vi lære af Mia?
For mig blev interviewet med Mia en påmindelse om, at forandring er som ringe i vandet.
Når teknologier som AI gør noget lettere for en person, kan det gøre noget mere besværligt for en anden. Når borgeren føler sig styrket, kan sagsbehandleren opleve, at dynamikken i dialogen ændrer sig. Når svaret kommer hurtigt, kan ansvaret blive uklart.
Hvem ejer kvalitetssikringen?
Efterhånden som AI bliver en del af hverdagen for borgere, klienter og medarbejdere, opstår der et spørgsmål, som mange organisationer bokser med: hvem ejer kvalitetssikringen, når AI er mellemled? Vi har alle adgang til de samme værktøjer, men ikke nødvendigvis den faglige kontekst til at vurdere svarene.
Mia gør det. Men er det designet ind i jeres opgavestyring og afregning? Det er ikke et spørgsmål, der er forbeholdt advokater. Det rammer alle faggrupper, der i stigende grad skal bruge arbejdstid på at efterprøve, kvalitetssikre og rette det, der kommer ind.
For Mia er der også et element af faglig glæde, der kan gå tabt. Det er en væsentlig anden opgave at skulle kvalitetssikre en robots svar end at finde frem til svaret selv.
Digitalisering er et menneskeligt problem - ikke et it-problem
Mia har været på AI-kursus hos sin faglige organisation - et kursus der, ligesom så mange andre, handlede om funktionalitet. Men teknisk snilde er ikke det samme som teknologisk modenhed. At vi er gode til at prompte, bygge chatbots og sætte automatiseringsflows op er én ting. Men der er spørgsmål, som it-afdelingen eller -projektet ikke kan besvare:
Hvem ejer data? Hvem har den faglige dømmekraft? Har vi et ansvar over for vores kunder? Hvad vil vi ikke give køb på? Hvad gør vi, når den svarer forkert? Og hvordan udvikler vi os, når teknologien overtager nogle af vores opgaver?
Teknologi flytter rundt på ansvar, magtforhold og arbejdsopgaver. Derfor bliver den ofte et spejl for de beslutninger, der er truffet - og dem der ikke er. Når vi behandler digitaliseringsproblemer som et it-problem, overser vi, at det i virkeligheden er et menneskeproblem.
Det usynlige lag
Der er også et lag, de færreste taler højt om: hvad der rent faktisk sker med de data, vi deler. Selvom Mia kender GDPR-lovgivningen ind og ud, er det stadig uklart, hvordan de kommercielle platforme bruger det, vi skriver til dem. Folk tror, de taster oplysninger ind i et it-værktøj. De deler med en infrastruktur, de ikke kan se - eller forstå.
Det er et konkret spørgsmål at tage op, næste gang en ny AI-løsning skal tages i brug: hvad deler vi, med hvem, og hvad sker der med det?
Modenheden halter efter værktøjerne
Har vi fået adgang til kraftfulde værktøjer hurtigere, end vi har udviklet den kritiske sans til at bruge dem klogt? Hvad betyder det, når vi outsourcer vores vurderingsevne til systemer, der ikke kender konteksten, relationen eller konsekvensen?
Det er ikke spørgsmål med nemme svar. Men de er værd at stille - i ledergruppen, i projektet, i onboardingen af nye værktøjer. Og de er for vigtige til at ligge hos den enkelte. Faglige organisationer, arbejdsgivere og andre beslutningstagere, der sætter rammerne, har et ansvar - ikke for at finde alle svarene selv, men for at invitere dem, der bliver påvirket, ind i samtalen om dem.
Før vi anerkender, hvor meget teknologien er flettet ind i vores arbejde, vores beslutninger og vores relationer, giver vi reelt ikke ledere og medarbejdere - eller mennesker som Mia - en reel chance. Chancen for at forstå nok til at kunne navigere. Sige fra. Stille spørgsmål. Og i sidste ende træffe informerede valg om den teknologi, de sættes til at arbejde med.
Teknologien er her. Spørgsmålet er ikke, om vi skal bruge den - men om vi er modne nok til at bære konsekvenserne af den.
Mia er ikke træt af AI. Hun er træt af at diskutere med den, når den udgiver sig for at være advokat. Og det er måske en ret menneskelig reaktion i en tid, hvor maskinerne ser ud til at have fået meninger.