Kampen om sandheden - kunstig intelligens og store forandringer i valgåret 2024

Det er en af årsagerne til, at World Economic Forum har misinformation og disinformation som den største globale risiko i et to-årigt sigte. Ja, på kort sigt er kampen om sandheden en større global risiko end ekstremt vejr, krig og klimakatastrofer. I hvert fald hvis man spørger 1490 af de førende eksperter. Og selvfølgelig er udviklingen i kunstig intelligens afgørende for risikobilledet - for adgangen til brugervenlige AI-systemer gør det muligt for hvem som helst at producere manipuleret indhold eller svindel i stor skala. 

Misinformation er et produkt af vores nyhedskilder, kampen om vores opmærksomhed og sociale medier. Disinformation er mere aktive handlinger, der har til hensigt at give borgere en alternativ opfattelse af virkeligheden, der beror på falske præmisser eller løgne. Kompleksiteten øges af, at teknologierne, der er roden til problemerne, også kan være et middel til at bekæmpe dem.

Kunstig intelligens kan manipulere stemmer og videoer og få folk (fx politikere) til at sige noget, de aldrig selv har sagt. Lige nu bliver teknologierne mest fremhævet, når folk laver sjove eksempler på, hvordan de bruger kunstig intelligens til at planlægge ferier eller generere sjove billeder til deres præsentationer. Men det bliver hurtigt alvor, når det bliver sværere at skelne sandt fra falsk. Og udviklingen er kun lige begyndt. Udfordringerne med mis- og disinformation tegner konturerne af fire temaer, der hurtigt udvikler sig til alvorlige udfordringer i valgåret 2024:

1. Øget politisk og social polarisering:
   • Øget adgang til manipuleret indhold gør det lettere for politiske aktører og grupperinger med særlige interesser at sprede polariserende budskaber.
   • Ekkokamre på sociale medier kan forstærke polariseringen ved at eksponere brugere for indhold, der bekræfter deres eksisterende holdninger og filtrere holdninger fra, som de er uenige i. 
   • Polariserede samfund kan have sværere ved at nå til enighed og træffe velinformerede beslutninger. Det kan underminere demokratiske processer. Tænk på stormen på U.S Capitol i 2021. 
2. Legitimitetsudfordringer for nyhedsmedier, institutioner og regeringer:
   • Misinformation og disinformation kan underminere tilliden til traditionelle nyhedsmedier, som tidligere blev betragtet som troværdige kilder til information.
   • Institutioner og regeringer kan lide tab af legitimitet, hvis de ikke kan beskytte borgerne mod spredning af falske oplysninger eller manipuleret indhold. 
3. Demokratiske udfordringer i forbindelse med valg:
   • Udenlandske aktører kan udnytte teknologier som kunstig intelligens til at påvirke valgprocessen ved at sprede disinformation og skabe forvirring om sandheden.
   • Borgeres tillid til valgprocessen og politikere kan svækkes, hvilket kan underminere den demokratiske legitimitet. Det simple faktum, at manipuleret indhold kan have været en del af den demokratisk proces, kan betyde legitimitetsudfordringer for regeringer, der ellers er valgt på et legitimt grundlag. 
4. Risiko for overdreven kontrol og censur:
   • For at bekæmpe misinformation kan der være en fristelse for regeringer og tech-selskaber til at implementere streng kontrol og censur af online indhold.
   • Dette kan udgøre en trussel mod ytringsfriheden og åbenheden på internettet.

Derfor er det også afgørende, at vi i højere grad har en offentlig samtale om, hvordan vi sikrer og styrker nyhedsmedier, den offentlige samtale og demokratiet i lyset af de forandringer, vi står midt i. Og at vi afprøver nye greb for at styrke den demokratiske samtale om kunstig intelligens. Det gør TrygFonden fx, når de arrangerer folkehøring om kunstig intelligens med Digitaliserings- og Ligestillingsministeriet. Det øger chancen for, at vi får alle med ombord og laver politiske løsninger, der virker for det flertal, som lever i forandringerne uden at have indflydelse på dem. Det er vi stolte af at være med til i Operate A/S. 

Behov for forandring

Problemer er der nok af – og forandringerne skaber et behov for, at vi tilpasser os. Men hvordan tilpasser vi os til de forandringer, der kommer – og som fortsat delvist virker mere som risici end faktiske udfordringer? 

Nogle af løsningerne virke simple på overfladen, men vanskelige i praksis. Særligt fordi de udfordringer, der snart materialiserer sig, også er et produkt af underliggende problemer: Traditionelle medier er på retræte, og mange borgere får deres nyheder fra sociale medier. Demokratiet er allerede under pres fra flere kanter. 

En vellykket transition til et samfund, hvor kunstig intelligens har en central plads, kræver en kollektiv indsats fra samfundet, herunder regeringer, tech-selskaber, medier og borgere. Det forudsætter samarbejde, effektive strategier, et stærkt etisk kompas og flerstrengede indsatser, hvis vi skal beskytte demokratiet og styrke den offentlige samtale. 

1. Scenarie- og systemtænkning: Udvikle scenarier for, hvordan udviklingen inden for teknologi og misinformation kan forme fremtiden. Hvordan kan fremtiden se ud? Hvad drømmer vi om? Hvordan forstår vi potentielle risici og muligheder – og hvordan udviklinger vi strategier til at håndtere dem? Hvis vi anskuer risikobilledet systemisk, hvilke leverage points og løsningsrum finder vi så? 
2. Borgernes mindset og digitale dannelse: Uddannelse og oplysning af borgere om risikoen for misinformation og manipulation er afgørende. Vi skal træne vores kritisk-tænkning-muskel – og have en forståelse for, hvad teknologierne kan. 
3. Teknologisk udvikling: Der fokuserer på at udvikle værktøjer, som kan identificere og bekæmpe misinformation uden at begrænse den enkeltes ytringsfrihed. 
4. Partnerskaber: Samarbejde mellem regeringer, tech-selskaber, medier og civilsamfund er afgørende for at tackle udfordringerne med misinformation. Der skal være mange om bordet – herunder ”almindelige” borgere – når der skal udvikles retningslinjer, værktøjer og programmer, der styrker informationskvalitet og beskytter demokratiet. 
5. Policyudvikling (regulering): Bliver en af de helt store internationale politiske dagsordner. Etisk udvikling og teknologiimplementering, som flertallet drager fordel af, forudsætter passende lovgivning og regulering, der sikrer ansvarlighed for tech-selskaber, beskytter privatlivets fred og fremmer informationskvalitet uden at underminere ytringsfriheden. Samtidig må vi ikke kvæle udviklingen i et omfang, der gør, at vi ikke udnytter teknologiens potentialer. Det kalder andre udfordringer på, fx klimakrisen. 

Nogle siger, at vi lever i krisernes tid. Det er i hvert fald en tid fyldt med forandringer, som vi skal vænne os til. Gør vi det rigtigt, har kunstig intelligens potentiale til at bygge et bedre samfund for det brede flertal og være en katalysator for positive sociale forandringer.