FL;LI: ChatGPT og lignende AI-modeller belønnes i deres træning for rigtige svar. Et gæt er tættere på et rigtigt svar end at sige “ved ikke”, så modellerne bliver belønnet mere for et gæt end et “ved ikke”. Derfor foretrækker de at skyde fra hoften frem for at indrømme uvidenhed. Men det er måske noget man kan fikse med en forbedret træningsproces.
Nu brugte du vel ikke chatgpt til at opsummere, vel? :)
Det er sørme godt jeg kun har brugt chatgpt til at generere ffmpeg transcode kommandolinjer og små awk kommandoer fra tid til anden, det er alt sammen noget jeg kan teste direkte.
Bruger også til at danne regex udtryk - det er dog ikke altid at det er lige godt, men det er langt hurtigere end at jeg skal forsøge at finde ud af hvordan man gør, og så kan man tilpasse bagefter.
Efter jeg skiftede til Linux i starten af 2024 der har jeg faktisk gjort mig umage til at lære regex. Jeg mener, jeg glemmer det jævnligt, men https://regexlearn.com/ er faktisk ganske god til at lære en det basiske.
Vi kommer tilbage til tastaturet på telefonen som kommer med forslag til det næste ord… det giver måske ikke menig, men det forslog et ord
Nu mangler vi bare at overbevise hr og fru Danmark om at “ai” ikke er et reelt alternativ til selv at undersøge ting.
Befolkningen har igennem rigtigt mange år komplet misforstået hvad digitale værktøjer kan og ikke kan.
Tag Excel fx (eller et hvert andet regnearksprogram) Et fantastisk værktøj til en masse ting. Men folk bruger det til vitterligt ALT. Specielt ting det absolut ikke er godt til.
På samme måde er LLM’ere super gode til en række ting, men folk fatter ikke, at bare fordi du kan bede den om at give et resumé af en artikel, er det ikke ensbetydende med at du kan bruge den som erstatning for din mave-tarm læge, elektriker, eller ingeniør.
Jeg ser det ikke nødvendigvis som et problem med AI, men som et problem med at folk er komplet inhabile til at forstå at der er rigtige og forkerte værktøjer til forskellige opgaver. Du bruger heller ikke en skruetrækker som mejsel, eller et stemmejern som hammer. Det forstår langt de fleste mennesker, men ligeså snart noget foregår på en computer, så kan de ikke længere se forskel.
