Det er da rimelig tydeligt at den er blevet trænet med henblik på at være mere positivt indstillet overfor nazisme. Andre LLM’er end lige Grok siger sjovt nok aldrig sådan nogen ting…
Jeg tror personligt det her går lidt udover at det bare er en autocomplete der hallucinerer lidt. Det virker for mig som om Grok bliver manipuleret af sin skaber til at drive et bestemt narrativ, og det synes jeg er meget bekymrende og et meget større problem end blot en hallucination.
Ja det her virker som et mønster som Grok følger, ikke blot en tilfældig hændelse. Det er ikke første gang og jeg tvivler på at det bliver sidste at Grok pludseligt begynder at sige irrelevante ting, dreje samtalen til højreekstreme talepunkter eller på lignende vis opfører sig markant anderledes end andre LLM’er gør. Det bliver italesat og xai melder der er sket en fejl som hurtigt bliver rettet hvorefter Grok igen fungerer relativt normalt indtil næste gang.
Og så skal man heller ikke glemme at Musk eksplicit har sagt at han vil have Grok til at fremme de kontroversielle (konservative) holdninger som han mener er politisk ukorrekt men faktuelle.
Jeg synes artikler som denne er vigtige for at gøre folk opmærksomme på at de skal være ekstra forsigtige med at tro på hvad Grok siger, når alt for mange allerede stoler for meget på den gennemsnitlige LLM’s troværdighed.
Ja, de her artikler er jo egentlig bare en skjult kritik af Elon Musk. Man glemmer bare lige at sige at alle chatbots til tider har sagt nogle mærkelige ting.
Altså, Hitler var vel en beslutsom mand - han tog bare nogle klamme beslutninger.
Jeg forstår ikke det bliver ved med at være en nyhed at avanceret autocomplete siger nogle underlige ting.
Det er da rimelig tydeligt at den er blevet trænet med henblik på at være mere positivt indstillet overfor nazisme. Andre LLM’er end lige Grok siger sjovt nok aldrig sådan nogen ting…
Jeg tror personligt det her går lidt udover at det bare er en autocomplete der hallucinerer lidt. Det virker for mig som om Grok bliver manipuleret af sin skaber til at drive et bestemt narrativ, og det synes jeg er meget bekymrende og et meget større problem end blot en hallucination.
Ja det her virker som et mønster som Grok følger, ikke blot en tilfældig hændelse. Det er ikke første gang og jeg tvivler på at det bliver sidste at Grok pludseligt begynder at sige irrelevante ting, dreje samtalen til højreekstreme talepunkter eller på lignende vis opfører sig markant anderledes end andre LLM’er gør. Det bliver italesat og xai melder der er sket en fejl som hurtigt bliver rettet hvorefter Grok igen fungerer relativt normalt indtil næste gang.
Og så skal man heller ikke glemme at Musk eksplicit har sagt at han vil have Grok til at fremme de kontroversielle (konservative) holdninger som han mener er politisk ukorrekt men faktuelle.
Jeg synes artikler som denne er vigtige for at gøre folk opmærksomme på at de skal være ekstra forsigtige med at tro på hvad Grok siger, når alt for mange allerede stoler for meget på den gennemsnitlige LLM’s troværdighed.
Ja, de her artikler er jo egentlig bare en skjult kritik af Elon Musk. Man glemmer bare lige at sige at alle chatbots til tider har sagt nogle mærkelige ting.