Falske kilder er et almindeligt problem i AI-tjenester som ChatGPT og Microsoft Copilot, siger AI-forsker. Få gode råd til, hvordan du kan vurdere, om AI-genererede påstande er sande.
  • drkt@scribe.disroot.org
    5·
    3 days ago

    ChatGPT er blevet så dum at høre på efterhånden. Spørg dem og vitterligt hvad som helst og den begynder at lyve fordi de har programmeret den til ikke at være negativ. Den kan ikke sige nej!

    • MBech
      5·
      3 days ago

      Jeg havde en faglig diskussion med en kammerat over hvad det vil koste at bygge en børnehave. Jeg spurgte ChatGPT som fandt 3 super fine eksempler, med budget, m², byggeår, et link til en kilde, og alle fra efter 2010. Bortset fra at:

      • 2 af eksemplerne aldrig har eksisteret, og aldrig har været på tale. Kilden dertil førte til et helt urelateret byggeri.
      • 1 af eksemplerne var blevet droppet i 2017 (eller sådan noget) fordi omkostningerne var blevet dobbelt så høje som udgangspunktet (som var prisen ChatGPT referede til).

      Det eneste jeg bruger ChatGPT til i dag er at skrive små hurtige scripts til VBA. Der finder jeg i det mindste ret hurtigt ud af om lortet er rigtigt eller ej.