Personligt ville jeg nok sige det var lidt af et rødt flag.
En AI uden et filter.
Linket til podcasten gemmer sig nederst i artiklen, så den kommer for nemheds skyld her:
Nyheden, om end interessant, kommer ikke som en overraskelse.
Med alle de åbne, frit tilgængelige sprogmodeller*, skal der ikke meget tanketorsk fra teenageren i kælderen til at servere en farlig og/eller manipulerende model skræddersyet til netop dig™️
*Diverse modeller kan prøves/hentes på huggingface.co eller eksekveres via en frontend som Jan (FOSS).
Det bekymrende er foretagender, som fx Character.ai, der gør en forretning ud af det - uden guardrails.
Holder på, det bør reguleres og ulovliggøres at deploy’e generativ AI, der udgiver sig for at være rigtige individer.
Hvor står I andre?
Holder på, det bør reguleres og ulovliggøres at deploy’e generativ AI, der udgiver sig for at være rigtige individer.
Generalt synes jeg man skal lovgive det digitale på samme måde som når man lovgiver det analoge. Den analoge analogi (heh) for at lave en AI til at udgive sig for andre er tilnærmelsesvis at man hyrer en person (AIen) til at forfalske eller udgive sig for en anden. Det ville vel høre ind under handel med ulovlige gerninger. Alternativt kunne man betragte AIen som et værktøj, på samme måde som en blyant der bruges til at forfalske en underskrift.
Pointen er, selvfølgelig bør der være ulovligt. Det er ikke lovligt bare fordi du kører det igennem en AI.
Måtte lige knibe øjnene sammen for at se, om det var AIen med “i” eller Alen med “L” som et navn :)
Den analoge analogi (heh) for at lave en AI til at udgive sig for andre er tilnærmelsesvis at man hyrer en person (AIen) til at forfalske eller udgive sig for en anden. […] Alternativt kunne man betragte AIen som et værktøj, på samme måde som en blyant […]
Det kan der være noget om. Forskellen er, at hvis du tror, du samtaler med et andet ligesindet menneske (som i virkeligheden er en kunstig intelligens - måske målrettet at manipulere dig), giver det ringe mening, at bruge tid og kræfter på at inddrage den i dine synspunkter og værdier.
Hvis jeg her på Feddit ikke kunne vide, om du, SorteKanin, var et medmenneske eller en kunstig intelligens, hvorfor så skrive med dig eller tro på dig? Det påvirker tilliden ved den demokratiske samtale.
Kunstig intelligens er desuden, imodsætning til andre værktøjer, blevet i stand til at træffe beslutninger egenhændigt. Et skræmmende eksempel er Israel, der sidste år brugte AI til at forudsige hvor, de skulle bombe. Israel siger, der stadig har været et menneske “in-the-loop” til at godkende eller afvise…
Hvis jeg her på Feddit ikke kunne vide, om du, SorteKanin, var et medmenneske eller en kunstig intelligens, hvorfor så skrive med dig eller tro på dig? Det påvirker tilliden ved den demokratiske samtale.
Det synes jeg er meget rigtigt. Det er netop derfor man ikke længere kan have sider hvor der bare er fri sign up. Man er nødt til at have et eller andet form for filter. En dag vil det filter måske heller ikke være godt nok og så må man måske have noget meget kraftig verificering. Den tid den sorg.
Den tid den sorg
