Det er jo ikke bevidst for at vildlede, men fordi den er trænet på data med fejl i

Det er ikke helt derfor. Selv hvis den var trænet med 100% faktuel data ville den stadig af og til give faktuelt forkerte svar. Den er trænet til at gengive sprog. Det gør den udelukkende på en sandsynlighedsberegning, altså “hvilket næste ord er det mest sandsynlige?”. Fx hvis det første ord er “Jeg” så er det næste ord med ret stor sandsynlighed “er”.

Forestil dig så at den er trænet på 100% faktuel data. I det datasæt er der disse to sætninger:

• “Jorden er rund.”
• “En pandekage er flad.”

Når ChatGPT så skal til at beslutte sig for hvad den vil skrive kan det jo være den kommer til ordet “Jorden” på et tidspunkt. Så ser den i sin data at “er” sandsynligvis er det næste ord. Så har vi altså “Jorden er”. Så kigger den igen i sin data og ser at efter “er” kommer mange forskellige ord, fx “rund” og “flad”. ChatGPT vælger med en vis sandsynlighed det ene eller det andet, afhængig af hvor mange af de følgende ord den har set. I vores eksempel ville den altså med 50% chance vælge “flad” og så ville den sige “Jorden er flad”.

Det er selvfølgelig forsimplet, men pointen er at ChatGPT sagtens kan lave fejl som ikke findes direkte i dens datasæt.