En ny rapport fra danske forskere konkluderer, at danskerne har svært ved at skelne mellem ægte og AI-genererede billeder. Undersøgelsen viser, at vores evne til at identificere manipulation kun er marginalt bedre end tilfældige gæt, hvilket kan true demokratiet – især i forbindelse med valg.
Rapporten understreger, at techgiganterne har stor indflydelse på den demokratiske samtale, og at deres ansvar for at moderere misinformation bør styrkes. Digitaliseringsminister Caroline Stage kalder udviklingen “skræmmende”, især fordi store platforme som Meta har signaleret en mindre indsats for faktatjek og regulering.
Eksempler som det falske opslag om SF’s Karsten Hønge viser, hvordan misinformation kan sprede sig internationalt og skabe politisk uro. Forskerne påpeger, at AI-teknologi udvikler sig så hurtigt, at visuel kildekritik ikke længere er nok – der er behov for bedre regulering og gennemsigtighed fra techgiganterne for at beskytte demokratiet.
Rigtigt godt indlæg, @Underbroen@feddit.dk.
Jeps. Det samme gælder for lyd og video: https://www.youtube.com/watch?v=FK8sgB-58q0 (bemærk at videoen fra ElevenLabs er 1 år gammel, og at teknologien har udviklet sig siden).
I den ene lejr siges det, at (generativ) AI er en døgnflue, der aldrig kommer noget seriøst ud af, og at AI har ramt en mur. I den anden lejr frygtes der for vores overlevelse pga. selvsamme teknologi.
Kan anbefale Yuval Noah Harari om AI-kritik:
DR har et godt klip i en nylig episode af Kontant om SMS-svindel, hvor Keld Norman deepfake’er vært Jacob Kragelund: https://www.dr.dk/drtv/se/kontant_-send-flere-penge-mor_500656
Se 37 minutter inde.
Fake hundeskat vedlægges:
Jeg ved snart ikke om fake hunde er værre eller bedre end fake news. Jeg hælder til at det er værre. Jeg tror uanset om det er en “døgnflue” (det er det ikke) eller bliver endnu vildere, er vi pt. et så sårbart sted, at vi bliver nødt til at tage det meget seriøst og overveje hvis eller hvordan vi kan lovgive på området.
Ifølge den nuværende amerikanske regering er der absolut ingen grund til regulering eller sikkerhed på området, så jeg kan ikke se problemet /s
Kan ikke rigtig se hvordan du ville lovgive omkring det eller hvordan det skulle håndhæves. Nogle modeller kan køres lokalt, det kan du jo ikke stoppe?
Ja, det har du ret i, det springende punkt for mig er videredistribution. Det er når noget bevidst vildledende kan nå millioner af mennesker. Hvis medier, traditionelle såvel som sociale, bliver straffet hårdt for at videreformidling, bevidst og ubevidst (sociale medier), kan det være de begynder at tage deres fact tjeking alvorligt.
Jo… Du kommer så ud i at du dybest set skal lovgive om at der skal laves faktatjek. Det er bare skræmmende tæt på autoritær tankegang i den forstand at mange autoritære styrer kræver et “faktatjek” for medier som dermed ikke er frie. Det bliver en fin balancegang, lyder det som om.
Slet ikke uenig, men du har i forvejen en instans som pressenævnet, som måske sammen med en anden kontrol kunne få egentlige beføjelser.
Folk/virksomheder, der distribuerer AI, som ikke tilkendegiver sin identitet, men udgiver sig for at være mennesker, bør straffes - måske med fængsel.
Det kan lyde som en ekstrem konsekvens.
Hvis du ikke ved, om du diskuterer værdier med et andet menneske, eller i virkeligheden er ved at blive nudget og manipuleret af en AI-bot, så forstyrrer det - eller i værste fald ødelægger - vores demokratiske samtale (online og telefonisk).
Idéen er stjålet her fra:
- 29:30: “when AI hacks language it means it could destroy our ability to conduct meaningful public conversations thereby destroying democracy”
- 30:43: “if I’m having a conversation with someone and I cannot tell whether this is a human being or an AI, that’s the end of democracy because that’s the end of meaningful public conversations”
Faktisk jo, indirekte. En dansk mand er for nyligt dømt skyldig i at genere og videresælge tusindvis af AI-genererede pornografiske billeder af børn.
Ligeledes kunne det ulovliggøres at hente eller beside visse modeller, eller at generere visse typer af materiale på samme vis, som det er ulovligt i dag at kopiere film.
Derudover er det en god start fra EU’s side med AI Act; i det hele taget at ulovliggøre deployment af højrisiko AI-modeller (forud for red-teaming og fuld adgang til under kølerhjelmen for myndighederne) så disse slet ikke kommer ud til folk i første omgang.
Ja, det er svært at have egne regler hjemme, når der findes uregulerede kinesiske og amerikanske modeller til højre og venstre på internettet, men der KAN lovgives på området.
Jeg giver dig ret i, at håndhævelse er den svære del.
Disclaimer: Jeg har et talent for at se ulykker der ikke sker.
Det er ikke kun demokratiet der bliver udfordret. Virkelig mange mennesker er i risiko for at få et kraftgigt misvisende billede af virkeligheden. Tænk fx hvor effektivt man kan udbrede racistiske budskabet, hvilket desværre også bruges politisk. Vi har endnu krog nok i virkeligheden til at de fleste af os føler sig overbevist om at landet Australien findes. Men de mennesker der bliver født fremover, får formentlig ret svært at at vide sig sikkre på hvad der er virkelighed og fiktion. Spørgsmålet er, om fiktion kan blive virkelighed, hvis man kan overbevise nok mennesker om det. Racisme er fx kun et problem fordi konceptet findes som fælles tankemæssigt begreb hos tilstrækkeligt mange mennesker. Menneskets kæmpehjerner medfører meget livlig fantasi, og selv uden brug af realistisk ai-skabt manipulerende materiale, er vi i stand til at opfinde helt vilde fiktionelle fortællinger, der definerer hele befolkningers moralske ageren og lovgivning. Se fx religiøst motiverede krige. Jeg er nervøs for hvad mennesket kan udrette når store magteliter får så kraftigt et værktøj.
Endnu en grund til at lukke ned for kæmpe sociale medier der styres af enkelte, magtfulde mennesker.
Jeg håbede at politikkere verden over havde fornuft nok til at ulovliggøre sociale mediers manipulation af folkemasser - særligt i en politisk retning. Desværre har det vist sig at politikkerne gjorde det omvendte - de samarbejdede med de sociale medier. Og det er måske et uundgåeligt onde, da det er selvsagt, at det kun er politikkere der samarbejder med sociale medier, der vinder. Dem der er i mod, bliver aldring dem der får flest stemmer, og kommer derfor aldrig til at få størst lovgivende magt.
Sidder i møde fra 10 til 15 - det var dejligt at bruge hjernen på andet : )
Anerkender dine pointer.
Spørgsmålet er, om fiktion kan blive virkelighed, hvis man kan overbevise nok mennesker om det.
Svaret er ja. Begreber som f.eks. “virksomheder”, “landegrænser”, og “penge” er fiktion og fortællinger, som tilpas mange mennesker er blevet enige om at gøre til vores fælles virkelighed.
Med fare for at slide på båndet, kommer her en anden henvisning til Yuval: https://www.ynharari.com/book/sapiens-2/
Legenden om Peugeot ;)
Er problemet ikke bare blevet større? Altså man har vel ikke kunne skelne mellem sande og falske billeder lige siden Photoshop blev en ting. Det er selvfølgelig blevet nemmere, men kildekritik har været dybt nødvendigt langt før nu.
Jo, jeg kan ikke forestille mig andet, end at det er blevet sværere. Og det bliver kun endnu sværere. På et eller andet tidspunkt når vi til, at man ikke kan stole på billeder, video og lyd, så hvad er der så tilbage? Vi skal have gang i en old school og ret akademisk omgang kildekritik hvor afsenders motiver skal granskes i dybden (hvilket ingen af os nok har overskud til i en travl hverdag).
Jeg er også grundlæggende bekymret, men hvis man skulle forsøge at se optimistisk på det: Måske kunne det blive en renæssance for traditionelle nyhedsmedier, hvor man - afhængig af mediet - i langt højere grad kan stole på at der netop er nogen der har forholdt sig kritisk til kilderne.
… hvilket minder mig om at jeg skal have tegnet et avisabonnement.
Det ville være fantastisk. En tilstrømning til autentiske medier med uddannede journalister bag manuelt skrevne nyhedartikler ♥
… hvilket minder mig om at jeg skal have tegnet et avisabonnement
Godt ord igen. Hvilke(n) avis(er) hælder du til?
- Information, hvis du har tid?
- JyllandsPosten, hvis du bor uden for KBH?
- Zetland, hvis du ikke er gammel?
- Politiken, hvis du er Underbroen?
Disclaimer: Jeg holder af alle fire m.fl.
Den ældste er lige startet i skole, så tanken var at finde én med en børnesektion, så det kunne blive en familie-ting. Tænker umiddelbart Information, Weekendavisen eller Politiken. Digital med en enkelt papir eller to om ugen.
Jeg gad også virkelig godt abonnere på en ordentlig avis, men synes bare de er for dyre, ærlig talt. Er jeg for gnier til en avis?
Fx Zetland til 1400 om året, det synes jeg sgu er mange penge. Hvis det var prissat lidt mere aggressivt ville jeg måske godt kunne gøre det. På den anden side ville de nok ikke kunne lave kvalitet til den pris? Synes det er svært.
Du kan starte billigere med f.eks. JP digital til 90 kr/md, tror jeg, det var.
Opdateret med pris fra Zetland:
Jeg tæller aldrig med de der start tilbud. Men jeg tjekkede faktisk ikke JPs pris, interessant at den er lavere end de andre.
Det kunne virkelig være fedt, hvis det på en eller anden måde kunne blive en renæssance for traditionelle medier, men jeg er bange for, at vi er kommet for langt ud: tiltroen til medier er allerede for undermineret (siger min indre pessimist). Flere krav til sociale medier, og en fortsat støtte til selvstændige medier, må være vejen frem.
Jeg håber, vi europæere kommer til at bevæge os “back to basics”, hvor mere traditionelle værdier får tyngde.
OK-relateret video fra Radosław Sikorski: Ukraine is not a “project”
Almindelige mennesker er chokerende dårlige til at bemærke når et billede er AI genereret. Selv når det er tydeligt for en person der er vant til dem. Jeg tror gerne på deres resultater om tilfældige gæt. Og så er der også nogen der insisterer på at alt muligt er AI genereret. Mest folk der hænger ud i Fediverset.
