En ny rapport fra danske forskere konkluderer, at danskerne har svært ved at skelne mellem ægte og AI-genererede billeder. Undersøgelsen viser, at vores evne til at identificere manipulation kun er marginalt bedre end tilfældige gæt, hvilket kan true demokratiet – især i forbindelse med valg.
Rapporten understreger, at techgiganterne har stor indflydelse på den demokratiske samtale, og at deres ansvar for at moderere misinformation bør styrkes. Digitaliseringsminister Caroline Stage kalder udviklingen “skræmmende”, især fordi store platforme som Meta har signaleret en mindre indsats for faktatjek og regulering.
Eksempler som det falske opslag om SF’s Karsten Hønge viser, hvordan misinformation kan sprede sig internationalt og skabe politisk uro. Forskerne påpeger, at AI-teknologi udvikler sig så hurtigt, at visuel kildekritik ikke længere er nok – der er behov for bedre regulering og gennemsigtighed fra techgiganterne for at beskytte demokratiet.
Disclaimer: Jeg har et talent for at se ulykker der ikke sker.
Det er ikke kun demokratiet der bliver udfordret. Virkelig mange mennesker er i risiko for at få et kraftgigt misvisende billede af virkeligheden. Tænk fx hvor effektivt man kan udbrede racistiske budskabet, hvilket desværre også bruges politisk. Vi har endnu krog nok i virkeligheden til at de fleste af os føler sig overbevist om at landet Australien findes. Men de mennesker der bliver født fremover, får formentlig ret svært at at vide sig sikkre på hvad der er virkelighed og fiktion. Spørgsmålet er, om fiktion kan blive virkelighed, hvis man kan overbevise nok mennesker om det. Racisme er fx kun et problem fordi konceptet findes som fælles tankemæssigt begreb hos tilstrækkeligt mange mennesker. Menneskets kæmpehjerner medfører meget livlig fantasi, og selv uden brug af realistisk ai-skabt manipulerende materiale, er vi i stand til at opfinde helt vilde fiktionelle fortællinger, der definerer hele befolkningers moralske ageren og lovgivning. Se fx religiøst motiverede krige. Jeg er nervøs for hvad mennesket kan udrette når store magteliter får så kraftigt et værktøj.
Endnu en grund til at lukke ned for kæmpe sociale medier der styres af enkelte, magtfulde mennesker.
Jeg håbede at politikkere verden over havde fornuft nok til at ulovliggøre sociale mediers manipulation af folkemasser - særligt i en politisk retning. Desværre har det vist sig at politikkerne gjorde det omvendte - de samarbejdede med de sociale medier. Og det er måske et uundgåeligt onde, da det er selvsagt, at det kun er politikkere der samarbejder med sociale medier, der vinder. Dem der er i mod, bliver aldring dem der får flest stemmer, og kommer derfor aldrig til at få størst lovgivende magt.
Sidder i møde fra 10 til 15 - det var dejligt at bruge hjernen på andet : )
Anerkender dine pointer.
Svaret er ja. Begreber som f.eks. “virksomheder”, “landegrænser”, og “penge” er fiktion og fortællinger, som tilpas mange mennesker er blevet enige om at gøre til vores fælles virkelighed.
Med fare for at slide på båndet, kommer her en anden henvisning til Yuval: https://www.ynharari.com/book/sapiens-2/
Legenden om Peugeot ;)