Maître de conférences en sciences de l’information et de la communication (Crem, Université de Lorraine).
C’est exactement la stratégie de ces dirigeants de pacotille depuis des décennies : détricoter le secteur public pour mieux justifier des rustines issues du secteur privé qui acquiert au passage un pouvoir croissant sur des décisions qui devraient relever de nos institutions démocratiques. Je ne me résigne pas à accepter qu’on laisse faire.
Quant aux benchmark, effectivement on parle de taux d’erreur entre 1% et 3% dans le cas des RAG.
Source?
La dernières newsletter de Benoit Raphael citait ce chiffre sans le sourcer. Mais peut être l’avait il obtenu par une IA qui l’aura trouvé plausible :-p
Ce qu’on demande en l’occurrence, c’est d’avoir un taux d’erreur inférieur au taux humain. Ce qui me semble extrêmement atteignable vu le niveau des policiers.
Il ne s’agit pas d’avoir une police parfaite, mais d’agir pour relever le niveau plutôt que dilapider l’argent public en surveillance vidéo algorithmique et équipements et formation de répression ultra-violente. L’état de la police française, tout comme celui de l’hôpital ou de l’école, on le doit aux politiques qui décennie après décennies ont discrédité les services publics pour justifier de leur retirer les moyens de travailler et l’autonomie d’action nécessaire.
Même pour éclairer les décisions, on glorifie (et on arrose) les cabinets de conseils plutôt que de s’appuyer sur l’expertise de nos chercheurs. Il faut dire qu’à l’Université, on est aujourd’hui trop occupés à répondre à des appels à projet afin de trouver l’argent nécessaire pour faire notre métier… Donc comme ailleurs, au final, des IA feraient sans doute aussi bien.
Il n’est écrit nulle part que cette voie soit la seule possible. Comment peut-on penser qu’il s’agirait aujourd’hui de choisir entre IA et notre police actuelle, comme s’il n’y avait pas d’autres possibilités ? Comme je l’écrivais il y a quelques mois, Présenter l’IA comme une évidence, c’est empêcher de réfléchir le numérique. Il est urgent de réaliser que la technique doit être débattue sur un plan politique, qu’elle ne va pas de soi et que nous n’avons pas à accepter benoitement les prophéties auto-réalisatrices des milliardaires technophiles qui fournissent les éléments de langages à nos dirigeants.
A rapprocher de cette info la veille : https://lemmy.world/post/21935054
Ce proche de Gabriel Attal ambitionne notamment de développer un outil, un chat GPT à la française, à destination des services de l’État pour accélérer les procédures et décharger les agents des tâches les plus rébarbatives, les moins valorisantes, leur débloquer du temps “pour être encore plus au contact du public”, défend son entourage.
Parmi les pistes, ses équipes imaginent très concrètement de faciliter le partage des dossiers médicaux entre plusieurs hôpitaux. Aujourd’hui des établissements utilisent encore le fax ! Autre idée : faciliter le dépôt de plainte auprès des forces de l’ordre, qui ne dépendent pas directement du ministère de la Fonction publique. Cette intelligence artificielle pourrait enregistrer notre témoignage pour le retranscrire bien plus rapidement que quand un policier est obligé de tout taper à la main. Dans la justice aussi, l’outil pourrait résumer en quelques minutes un dossier long comme le bras.
Sachant que l’idée des transcriptions automatiques des plaintes était déjà brandie par Xavier Niel un mois plus tôt au micro de France Inter : https://youtu.be/H8x-pIGbhOQ?feature=shared&t=817
Nous aussi, nous avons nos milliardaires avec des lignes directes vers les dirigeants politiques.
Et pendant que le ministre de la Fonction Publique lèche les bottes de Elon Musk, l’opposition réagit… Sur X.
Le désastre total dont on parle est le résultat de décennies de détricotage des services publics. Dans la bouche du ministre de la Fonction Publique, la technique n’est qu’un cache-misère qui sert à justifier davantage encore de désengagement de l’État. Il entretient l’idée mensongère d’un solutionnisme technologique qui prétend résoudre tous nos maux à coups de techniques immatures et promues par des gens sans scrupules qui raisonnent en termes de ROI sur leurs investissements financiers.
On pouvait déjà permettre le dépôt de plainte sans passer par le commissariat avec les techniques existantes. Les LLM n’y changent rien et ce n’est pas ce dont parlent le ministre ou Xavier Niel. Leur propos est d’imaginer un gain de temps (et de productivité) si l’on transcrit automatiquement ce que disent les plaignants, au lieu de rédiger soi-même. Or les IA ne peuvent pas remplacer la nécessité d’accueillir les victimes, de les écouter, de les aider à exprimer et formuler ce qu’elles ont vécu et de les orienter dans la recherche d’une réparation. C’est d’ailleurs la promesse : être plus au contact du public. Ces gens qui se croient géniaux n’ont sans doute jamais conduits, transcrits ou analysés d’entretiens de leur vie : d’abord un entretien ne fonctionne pas sans un interlocuteur compétent ; ensuite les IA de transcription font beaucoup de coquilles, il faut repasser derrière ; enfin la parole orale est bien plus difficile à analyser et interpréter qu’une déclaration rédigée pour formaliser un témoignage.
Tant mieux si l’on équipe les fonctionnaires d’outils éprouvés pour comprendre une victime dans sa langue maternelle. On pourrait tout de même regretter que cela prenne la place des interprètes qui savent traduire bien au-delà des mots. Quoiqu’il en soit, cela ne dispensera pas de former à l’écoute et à la législation. Pour le reste, si le propos est d’accepter que les fonctionnaires de police puissent être analphabètes, ce n’est pas un progrès. Comme le développait récemment Morozov pour Le Monde Diplomatique, tant qu’on concevra l’IA comme un moyen d’augmenter des individus diminués, on passera complètement à côté. Ces techniques pourraient sans doute être conçues et mises en œuvre pour nous améliorer, mais ce n’est pas ce dont on nous parle ici.
Quant aux benchmark, effectivement on parle de taux d’erreur entre 1% et 3% dans le cas des RAG. Dans bien des applications, un tel taux reste trop important. Par ailleurs, tant que les utilisateurs ne comprendront pas le fonctionnement de ces outils et croiront dialoguer avec une entité intelligente, ils seront incapables d’évaluer la pertinence de la réponse à un prompt. Savoir que le LLM ne traite que le texte, ne sait pas forcément traiter des données tabulaires et encore moins des données présentées sous forme de graphique (format image) est indispensable. Quand bien même, sans expertise sur ce qu’on lui demande de produire, on se contente d’un rapport magique à la technique, on ne peut pas discerner les réponses correctes de celles qui ne sont que plausibles. Or avec l’expertise nécessaire, l’IA n’apporte pas forcément de gros gains de productivité… A supposer qu’être plus productif soit souhaitable si cela signifie s’épuiser en multipliant encore les tâches et la quantité d’information à traiter au quotidien.
Xaviel Niel avait justement avancé cette idée de la transcription automatique des plaintes lors d’une interview sur France Inter le 1er octobre : https://youtu.be/H8x-pIGbhOQ?feature=shared&t=817
Comme si déposer une plainte n’était qu’affaire d’enregistrer par écrit tout ce qu’on dit, tel qu’on le dit. Comme si la transcription automatique était tellement au point qu’elle ne faisait jamais de faute, surtout face à des accents divers et variés. Comme s’il ne fallait pas un minimum de compétence et d’écoute pour recueillir les informations nécessaires auprès du ou de la plaignante. Comme si on pouvait se passer de traduire son témoignage avec justesse et esprit de synthèse, tout en obtenant sa validation de cette traduction.
Mais c’est sûr que former les fonctionnaires de police à la conduite d’un tel entretien est couteux, et qu’on part de loin. Alors comme dans tous les services publics exsangues, on va nous dire qu’après-tout une IA fera sans doute mieux pour moins cher.
Et puis c’est pratique de résumer automatiquement des dossiers longs comme le bras. C’est sûr que si des êtres humains ont pris la peine de les constituer, c’est certainement pour qu’une IA les résume sans âme ni conscience et en inventant potentiellement des choses qui n’y sont pas. D’après un benchmark d’OpenAI, aucun modèle ne produit de résultats factuellement corrects plus d’une fois sur deux.
Donc c’est ça l’élite de la Nation : un ministre de la fonction publique sorti d’une prestigieuse école de commerce qui reprend les idées d’un homme d’affaire milliardaire, tous deux convaincus par le narratif qui veut que l’IA dominera le monde et qu’il vaut mieux en être quand bien même on sait qu’il n’y a pas les ressources sur Terre pour soutenir un tel déploiement de ces techniques.
Oups, toutes mes excuses. Merci pour ce rappel.
Comme le souligne mon commentaire, il y a certainement un “sujet” qui dépasse les frontières et devrait nous préoccuper tout autant à l’échelle franco-française. Mais effectivement, ce n’est pas l’objet de l’article cité.
Je relève que les 45-64 ans sont les seuls à avoir voté en majorité pour Trump. Or, il s’agit de la même classe d’âge que les émeutiers racistes qui s’étaient illustrés au Royaume Uni il y à quelques mois sous l’influence de la désinformation : https://theconversation.com/pourquoi-tant-de-quadras-et-de-quinquas-parmi-les-emeutiers-au-royaume-uni-236352
J’ai ajouté cette citation au post initial, sans cette précisions le titre est en effet trop généralisant :
Pendant 30 heures, le comportement de 9 000 véhicules a été observé dans cinq grandes villes : Paris, Lyon, Montpellier, Rennes et Metz
Vu le nombre d’automobiles qui sillonnent nos villes, 1/20 danger public c’est colossal. Effectivement, l’étude se concentre sur des observations dans des grandes villes : ce n’est pas représentatif de ce qui se passe sur les routes nationales ou les autoroutes par exemple. En revanche, pour ce qui concerne la cohabitation avec les piétons et les cyclistes c’est assez éclairant.
J’ai été surpris qu’à Metz ils aient surtout relevé des problèmes de distances de sécurité. Là où je circule, je vois énormément de feux grillés… Et pas mal de conducteurs qui appuient sur le champignon à la moindre ligne droite.
En lisant le déroulement de l’altercation, je n’ai pas pu m’empêcher de me rappeler une situation similaire vécue il y a quelques années.
Mon épouse et moi descendions une ruelle étroite du centre-ville de Metz. Je poussais la poussette de notre fille encore bébé. Une voiture était mal stationnée sur le trottoir et celui d’en face était saturé de véhicules également. A l’approche des fêtes, la circulation était dense. N’ayant pas d’autre possibilité, je me suis engagé sur la route. L’automobiliste derrière moi n’a pas apprécié et a accéléré bruyamment en passant à quelques centimètre de moi.
Tout comme le cycliste décédé cette semaine, j’ai frappé de colère sur le toit de son véhicule. Le type s’est arrêté pour descendre et venir me menacer, son visage collé au mien. En mon fort intérieur, j’étais prêt à me faire casser la gueule sous les yeux de tous les témoins pour que ce type prenne cher. Je pense qu’il l’a compris à mon regard, il a lâché l’affaire : ce type d’individu ne comprend que ce langage.
Si j’avais été seul, sans témoins, ou si j’avais semblé plus vulnérable (au hasard, si j’étais une femme ou simplement un peu plus gringalet), j’aurais simplement dû subir sans réagir. Dans toutes les affaires de violences, je suis mal à l’aise qu’on se focalise sur le genre des victimes : le problème c’est la violence viriliste, l’abus de pouvoir, d’où qu’elle vienne. Le fait que ce soit surtout l’apanage des hommes devrait nous inciter à valoriser d’autres comportements chez toutes et tous, plutôt qu’à encourager les femmes à suivre l’exemple des “femmes fortes” ou des “femmes de pouvoir” qui ne font que reproduire le modèle viriliste.
« Dans 64% des cas ce sont des hommes qui adoptent des comportements à risque »
« A risque » surtout pour les autres, dès lors que l’automobiliste est au volant d’un engin qui tient davantage du char d’assaut que du moyen de locomotion.
Pour une fois, il n’est pas question du genre des victimes. Cela montre bien que la violence viriliste est aveugle : elle vise toutes celles et ceux qui semblent vulnérables face au pouvoir et à la force brute. Cette violence n’est d’ailleurs pas plus tolérable de la part des hommes que des femmes (36% des comportements dangereux observés sur la route).
Merci d’avoir pensé à moi. Comment souvent avec Hubert Guillaud, une recension très intéressante !
Texte intégral :
Le rapport sur la compétitivité et l’avenir de l’Europe remis par Mario Draghi à la Commission européenne le 9 septembre a eu le grand mérite de remettre en cause le dogme de l’austérité budgétaire et de souligner l’importance de la recherche, de l’innovation et de la formation pour juguler le décrochage économique, scientifique et technique de l’Europe et retrouver des perspectives florissantes. Pour autant, si ce rapport propose avec raison d’investir dans la formation, la santé, l’isolation thermique des bâtiments, les énergies décarbonées ou les grandes infrastructures de transports, il demeure attaché à une conception de la recherche et de l’Université frappée d’obsolescence, fondée sur la croyance économiciste en un marché total des chercheurs et des établissements.
Dans notre contexte de longue dépression économique, couplée aux crises climatique, démocratique, sanitaire et sociale, il importe de tirer le bilan des politiques publiques suivies en France depuis 20 ans en matière de formation et de recherche fondamentale et appliquée. Le Crédit d’Impôt Recherche (CIR) est une niche fiscale qui permet aux entreprises de déduire de leur impôt sur les sociétés 30% de dépenses qu’elles font apparaître dans leur bilan comme procédant de “recherche et développement” (R&D). En l’absence de contrôles sérieux et critériés, de multiples officines se sont spécialisées dans le maquillage de dépenses génériques en R&D et de cadres commerciaux en chercheurs et ingénieurs. Si le CIR a un effet très positif pour les microentreprises et les PME qui emploient des ingénieurs-chercheurs pour concevoir et produire de la haute technologie qui dispose de marchés de niche, il a toutefois un effet largement négatif sur la R&D des moyennes et grandes entreprises. Les rapports de l’OCDE, de la Cour des Comptes ou de France Stratégie ont montré que le CIR est avant tout un contournement des règlements européens sur les aides directes aux entreprises et n’a aucun effet ni sur l’emploi ni sur l’investissement en R&D. Les effets indirects sont en réalité bien pires, puisque en privant de financement la recherche publique et l’Université, le CIR détériore l’écosystème français de recherche et de formation. Si les entreprises continuent de délocaliser leur R&D en Asie du sud-est et, dans une moindre mesure, aux USA, c’est pour la qualité de leur écosystème et la dégradation du nôtre. Le décrochage du niveau scientifique et technique en France est alarmant, et le manque de culture scientifique de la classe politique en est le reflet. Les désastreuses réformes du lycée comme l’absence de politique ambitieuse de recrutement et formation des enseignants ont encore accéléré la débâcle.
Comment en sommes-nous arrivés là ? L’enseignement supérieur et la recherche ont connu deux décennies d’incessantes réformes structurelles théorisées par le rapport “Education et croissance” de MM. Aghion et Cohen, paru en 2004. Il reposait sur quelques postulats: (i) les financements de l’Université et de la recherche doivent êtres concentrés sur quelques établissements, qui ont vocation à assurer l’activité de recherche et donc d’innovation ; les autres, paupérisés, doivent graduellement être transformés en collèges universitaires en grande partie financés par des frais d’inscription dérégulés ; (ii) les universitaires et chercheurs doivent être mis en concurrence pour obtenir les budgets nécessaires à l’exercice de leur métier ; (iii) l’Etat doit accompagner l’essor d’un enseignement supérieur privé lucratif. Ce dernier volet a parfaitement réussi. Les moyens qui manquent au service public se retrouvent par exemple dans les 25 milliards € consacrés en pure perte à l’apprentissage et à l’alternance et captés par un secteur privé de piètre qualité. Pour le reste, ces croyances infondées ont engendré bureaucratisation, paupérisation, précarisation et participé au décrochage pointé par le rapport Draghi. Il en résulte une perte de sens pour l’Université, conçue pour produire, transmettre, conserver et critiquer les savoirs, et réformée au prétexte de produire de la croissance économique — avec un résultat à l’exact opposé des promesses de prospérité.
Concevoir un système d’Université et de recherche conforme aux défis du XXIème siècle suppose de se projeter à 10 ou 20 ans, dans une société profondément transformée, qui aurait triomphé des crises qui la frappent et qui ait retrouvé vitalité, espoir et envie d’ouvrir des horizons communs désirables.
Plafonner le CIR et le conditionner à l’emploi de docteurs en CDI et au paiement de l’impôt sur les sociétés — que moins d’un tiers des entreprises de recherche paient à ce jour — permettrait de financer en grande partie cette politique d’avenir.
Nous projeter dans un avenir meilleur suppose d’une part de comprendre le monde au plus juste et au plus vrai et d’autre part de témoigner d’une attention et d’une confiance dans la jeunesse qui passent par sa formation intellectuelle et pratique et par les conditions matérielles de son émancipation. Mener une politique d’austérité pour l’Université et la recherche serait priver la société d’avenir.—
L’état des lieux est assez juste, mais je déplore également le ton décliniste de l’article.
C’est comme les articles sur les catastrophes climatiques qui ne rappellent pas que des perspectives existent et qu’il est urgent d’agir.
Ce type de papier attise le désespoir :
J’approuve à 100% ton analyse !
Tournesol est une excellente initiative !
Mais force est de constater que :
Que faire en attendant un hypothétique dégroupage des réseaux sociaux ?
Le Conseil National du Numerique (CNNum) défend l’idée que la recommandation algorithmique (aujourd’hui dictée par les plateformes elles-mêmes) soit ouverte à d’autres acteurs, dans l’espoir que la concurrence tire la qualité vers le haut.
Problème : Maria Luisa Stasi observe « il est également possible que les nouveaux fournisseurs de services de recommandation de contenus se contentent de reproduire le même modèle économique des grandes plateformes de réseaux sociaux, au lieu de promouvoir des modèles diversifiés, innovants et plus respectueux des droits humains. »
Selon elle, 3 facteurs pourraient « fortement minimiser ce risque » :
Ne faudrait-il pas commencer par là ? Sans attendre une hypothétique obligation d’ouverture à l’interopérabilité qui mettra des années à se concrétiser…
En l’état actuel des choses :
Alors, on commence par où ?
La publicité (et les annonceurs) a toujours été exclue du projet : l’idée de Needle n’aurait jamais germé sans cela.
Par bénéficiaire, j’entends les utilisateurs, les citoyens, les collectifs, les organisations… Mais pour l’heure, ce sont surtout de gentils cobayes qui essuient les plâtres avec nous, car fabriquer quelque-chose de vraiment nouveau demande beaucoup de patience et d’abnégation.
Tu as raison, le site de Profluens fait très “startup nation” et je comprends qu’il puisse faire un peu peur. Ça fait partie des mauvaises idées induites par le cheminement auquel on nous pousse dans le monde académique dès que l’on veut sortir du labo. Pour sortir de ce modèle, j’adhère complètement à l’idée d’archipels et je te rejoins sur Framasoft. Modulo la lourde tâche de nouer et faire vivre tous ces liens.
Je suis convaincu que Needle a des applications naturelles pour mettre en valeur les publications scientifiques qui le méritent vraiment et outiller notre sérendipité. Mais être chercheur ne suffit pas (nul n’est prophète en son pays). Peut être même au contraire : la fascination pour “le privé” est encore forte et on a bien du mal à appliquer ce qu’on professe. Il n’y a qu’à voir la faible part de PhD parmi les “ingénieurs de recherche” qui dirigent nos services universitaires, alors que l’on clame haut et fort que le doctorat est gage de solides compétences professionnelles. Ajoute à cela des jeux de pouvoirs multidimensionnels (l’université de l’invisible de Terry Pratchet est assez fidèle à la réalité) et tu comprendras que faire émerger une projet par des universitaires pour des universitaires est une vraie gageure.
Une piste en réflexion actuellement serait de co-construire quelque chose avec des associations d’anciens. Needle pourrait en effet avoir des applications immédiates pour rapprocher les membres de ces collectifs qui - sans le avoir - se croisent sans doute sur pas mal d’information ou de ressources professionnelles. L’avantage étant que chacun ancien est un relai potentiel d’autres organisations (son employeur et/ou ses assos).
Ce passage me parait important :
Si comme le suggère le dernier rapport du Forum économique mondial sur les risques globaux, la désinformation est l’une des plus grandes menaces à court terme pour l’humanité, notre capacité collective à comprendre comment elle se propage et son impact sur notre société doit être une priorité.
Il ne nous viendrait pas à l’idée d’entraver la recherche scientifique sur la propagation des virus, ou sur l’impact du réchauffement climatique sur l’environnement. De la même manière, la recherche sur la désinformation doit pouvoir être menée sans encombre, et avec l’accès aux informations nécessaires pour en saisir la complexité. La compréhension des ressorts économiques, politiques et technologiques de la désinformation est une question de santé publique, de résilience démocratique et de sécurité nationale.
Nous sommes au stade où la société civile n’a pas encore pris conscience du fait que sans un écosystème info-communicationnel sain, nous n’avons aucune chance de faire émerger des réponses concertées face aux grands défis (climat, santé, biodiversité, démocratie, etc). Pire : nous n’en sommes même pas au stade où l’on se préoccupe de préserver nos capacité d’analyse face à ce problème. Comme si le GIEC n’en était qu’à ses balbutiements.
Mais je te rejoins sur le caractère incantatoire de cet appel (dont je suis signataire). Parallèlement à l’action à grande échelle, nous avons besoin de cultiver des alternatives, des démonstrations qu’un autre accès à l’information est possible. Ce à quoi je m’emploies avec needle.social (dont nous avons discuté un peu il y a quelques jours ici).
Je suis à Metz (Moselle, Grand-Est), et c’est vrai que la proximité géographique est une gageure supplémentaire !
La nuance est bienvenue et j’abonde dans ton sens. Face à des États qui sont gangrénés par les intérêts privés, l’intérêt public et collectif dépend de plus en plus des organisations non gouvernementales ou des coopératives. Malheureusement, ces rustines-là (qui ont notamment amorti la crise sanitaire) on ne les soutient guère et on les pousse à rentrer dans le moule : financements par appels à projets, marchés publics taillés pour les plus grosses structures…
Cf. dans La Revue Dessinée n°42 (novembre 2023), l’enquête sur le groupe SOS :