Et nyt værn mod SMS-svindel blev blåstemplet af myndighederne og slået stort op politisk. Nu risikerer Danmarks fire telegiganter en historisk tilsynssag for at kigge danskerne over skulderen uden dommerkendelse - stik imod ministers løfte om fortsat privatliv.
Gemini resumé:
De fire danske telegiganter – Telenor, 3, TDC og Norlys – står over for en potentiel historisk tilsynssag, efter det er blevet afsløret, at medarbejdere siden foråret har læst indholdet af tusindvis af danskeres SMS’er. Dette er sket i forbindelse med et nyt, politisk blåstemplet AI-system (SMS-skjold) mod svindel. Problemet er, at teleselskaberne med denne praksis har brudt den grundlovssikrede meddelelseshemmelighed og handlet stik imod erhvervsminister Morten Bødskovs løfte fra sidste år om, at medarbejderne ikke ville få adgang til at læse beskederne.
Afsløringen viser, at teleselskaberne ikke blot læste indholdet, men også lagrede snesevis af millioner af SMS’er i op mod en måned, selvom de normalt kun må lagre såkaldte metadata i et kort øjeblik. Eksperter er dybt kritiske: Professor Lars Dittmann kalder det “helt galt” og “no go,” mens teleanalytiker Torben Rune betegner det som “giftigt ad helvede til.” Rune understreger, at han aldrig har hørt om, at et teleselskab har fulgt med i kunders beskeder uden en dommerkendelse, og kalder den indsamling, selskaberne har udført, for “Politiets hedeste drøm,” da den er mere vidtgående, end hvad politiet selv har lov til.
Kernen i skandalen ligger i, at AI-systemet ikke fungerede som forventet. Systemet, hvis primære formål var at se mønstre i masseudsendte beskeder, var overraskende dårligt til at skelne svindel fra legitime SMS’er og markerede et stort antal almindelige beskeder som mistænkelige. Dette tvang teleselskaberne til at lade “betroede medarbejdere” læse beskederne for manuelt at vurdere dem – en “hidtil uset adgang,” som Jan Lemnitzer, lektor i it-sikkerhed, kritiserer. Han mener, at selskaberne burde have trukket i håndbremsen og slukket systemet øjeblikkeligt.
Teleselskabernes brancheforening, Teleindustrien, hvis direktør, Jakob Willer, har koordineret indsatsen, oplyser, at de mest indgribende dele af systemet blev slukket “omkring juli” efter en “løbende erkendelse” af problemerne. Willer bekræfter, at kriteriet fra Digitaliseringsstyrelsen – om at ingen fysiske personer skulle få kendskab til indholdet – aldrig blev opfyldt, men forsvarer reaktionen som ansvarlig. Digitaliseringsstyrelsen, som oprindeligt godkendte systemet under den falske præmis, har nu iværksat en tilsynssag med teleselskaberne. Både Digitaliseringsminister Caroline Stage (M) og Digitaliseringsstyrelsen afviser at kommentere yderligere, mens tilsynssagen verserer, men ministeren udtaler, at hun ser med “stor alvor” på sagen.
@Klorofyl@SorteKanin Der er måske lidt lovmæssige problemer med at lave et resume af en låst artikel, men endnu vigtigere, så er jeg højlydt modstander af at læse AI-genereret tekst. Tak for at første linje angiver dette, men personligt var jeg helst hele indlægget foruden.
Til gengæld så er opsummering faktisk en af de ting som generativ AI er rimelig god til, netop fordi den ikke skal finde på noget nyt information, men bare gengive noget information i kortere form og udelade ting. Det minimerer risikoen for hallucinationer. Jeg synes faktisk opsummering er en rimelig legitim brug af AI, så længe det er brugt med måde (ligesom så meget andet).
Om der er lovmæssige problemer med det… det er et godt spørgsmål. Jeg ved det ikke. Hvis man ikke markerede at det var skrevet af en AI, ville det så være lovligt? Det ved jeg heller ikke. Jeg er ikke advokat men umiddelbart tror jeg det er lidt en gråzone? Men gad rigtig godt se eksempler på sager hvor den her situation bliver taget op.
Gemini resumé: De fire danske telegiganter – Telenor, 3, TDC og Norlys – står over for en potentiel historisk tilsynssag, efter det er blevet afsløret, at medarbejdere siden foråret har læst indholdet af tusindvis af danskeres SMS’er. Dette er sket i forbindelse med et nyt, politisk blåstemplet AI-system (SMS-skjold) mod svindel. Problemet er, at teleselskaberne med denne praksis har brudt den grundlovssikrede meddelelseshemmelighed og handlet stik imod erhvervsminister Morten Bødskovs løfte fra sidste år om, at medarbejderne ikke ville få adgang til at læse beskederne.
Afsløringen viser, at teleselskaberne ikke blot læste indholdet, men også lagrede snesevis af millioner af SMS’er i op mod en måned, selvom de normalt kun må lagre såkaldte metadata i et kort øjeblik. Eksperter er dybt kritiske: Professor Lars Dittmann kalder det “helt galt” og “no go,” mens teleanalytiker Torben Rune betegner det som “giftigt ad helvede til.” Rune understreger, at han aldrig har hørt om, at et teleselskab har fulgt med i kunders beskeder uden en dommerkendelse, og kalder den indsamling, selskaberne har udført, for “Politiets hedeste drøm,” da den er mere vidtgående, end hvad politiet selv har lov til.
Kernen i skandalen ligger i, at AI-systemet ikke fungerede som forventet. Systemet, hvis primære formål var at se mønstre i masseudsendte beskeder, var overraskende dårligt til at skelne svindel fra legitime SMS’er og markerede et stort antal almindelige beskeder som mistænkelige. Dette tvang teleselskaberne til at lade “betroede medarbejdere” læse beskederne for manuelt at vurdere dem – en “hidtil uset adgang,” som Jan Lemnitzer, lektor i it-sikkerhed, kritiserer. Han mener, at selskaberne burde have trukket i håndbremsen og slukket systemet øjeblikkeligt.
Teleselskabernes brancheforening, Teleindustrien, hvis direktør, Jakob Willer, har koordineret indsatsen, oplyser, at de mest indgribende dele af systemet blev slukket “omkring juli” efter en “løbende erkendelse” af problemerne. Willer bekræfter, at kriteriet fra Digitaliseringsstyrelsen – om at ingen fysiske personer skulle få kendskab til indholdet – aldrig blev opfyldt, men forsvarer reaktionen som ansvarlig. Digitaliseringsstyrelsen, som oprindeligt godkendte systemet under den falske præmis, har nu iværksat en tilsynssag med teleselskaberne. Både Digitaliseringsminister Caroline Stage (M) og Digitaliseringsstyrelsen afviser at kommentere yderligere, mens tilsynssagen verserer, men ministeren udtaler, at hun ser med “stor alvor” på sagen.
@Klorofyl @SorteKanin Der er måske lidt lovmæssige problemer med at lave et resume af en låst artikel, men endnu vigtigere, så er jeg højlydt modstander af at læse AI-genereret tekst. Tak for at første linje angiver dette, men personligt var jeg helst hele indlægget foruden.
Til gengæld så er opsummering faktisk en af de ting som generativ AI er rimelig god til, netop fordi den ikke skal finde på noget nyt information, men bare gengive noget information i kortere form og udelade ting. Det minimerer risikoen for hallucinationer. Jeg synes faktisk opsummering er en rimelig legitim brug af AI, så længe det er brugt med måde (ligesom så meget andet).
Om der er lovmæssige problemer med det… det er et godt spørgsmål. Jeg ved det ikke. Hvis man ikke markerede at det var skrevet af en AI, ville det så være lovligt? Det ved jeg heller ikke. Jeg er ikke advokat men umiddelbart tror jeg det er lidt en gråzone? Men gad rigtig godt se eksempler på sager hvor den her situation bliver taget op.