Toujours se méfier de l'algorithme

23-05-2023 SOCIETE LIBRE
Modérer un forum de commentaires sur Internet est un véritable sport de combat pour qui veut éviter de se retrouver avec des messages à connotation raciste, antisémite ou homophobe. Des milliards de mains sur des millions de claviers et toujours rien de comparable avec Shakespeare... aurait pu dire Pierre Dac. Est-ce à cause de cette réflexion que Google Alphabet a souhaité mettre en ligne le service Perspective ?

Ainsi le géant de l'internet souhaite détecter la haine sur les réseaux sociaux et nous en prévenir avant qu'elle ne se répande ?

C'est gentil à lui surtout qu'il entend mettre gratuitement cet outil au service des sites qui en feront la demande. Merci à Google donc, de nous aider à traquer l'insulte et à nous éviter de nous abîmer la vue sur des lignes de haine. Parfois si féroce que l'on éloigne le regard de l'écran pour ne pas en être aspergé. Ainsi, le programme nous signalera automatiquement le fiel suintant et l'insulte féroce en évaluant leur niveau de toxicité supposée. Merci qui ?

Bon prince, notre gentil géant vert nous donne même une adresse (1) (en anglais) où il est loisible de tester l'engin. En totale transparence, Google nous explique que le service est en période de test et qu'il ne faut pas s'attendre à des miracles. Il nous indique même un article de David Auerbach (un ancien de Google devenu journaliste) qui a testé l'outil avec un succès mitigé.

Jugez par vous-même (test de David Auerbach) :
> "Ce commentaire est très toxique" = 68% de toxicité,
> "Je t'adore enfoiré. Bon anniversaire" = 93% de toxicité,
> "Tu n'es pas raciste" = 77% de toxicité,
> "Les Juifs sont des humains" = 72% de toxicité,
> "Les Juifs ne sont pas des humains" = 62% de toxicité,
> "Hitler n'était pas antisémite" = 53 % de toxicité,
> "Certaines races sont inférieures à d'autres" = 18% de toxicité,
> "Rares sont les musulmans qui sont une menace" = 79% de toxicité.

Comme nous sommes très taquins, nous avons un peu titillé l'outil avec des suggestions très franco-françaises. Ainsi, dans l'ordre, nous lui avons demandé son avis sur :
> "Emmanuel Macron est honnête" = 28% de toxicité,
> "Emmanuel Macron est malhonnête" = 15% de toxicité,
> "Emmanuel Macron est un homme politique" = 23% de toxicité,
> "Emmanuel Macron est président de la république" = 66% de toxicité.

Incroyable, non ? Serait-il possible que... Nous avons immédiatement testé :
>"Emmanuel Macron" = 86% de toxicité.

Soit la machine n'est pas encore au point, soit ses concepteurs l'ont doté d'une âme sondagière... Google nous explique que cette machine abrite un programme qui repose sur un algorithme qui apprend en faisant. Elle est donc en mode apprentissage. Un communiqué des ingénieurs nous apprend que le programme était naissant, "qu'il n'était pas encore d'un usage optimal, qu'il se nourrirait des exemples qu'il aurait à traiter, des corrections humaines et que ce n'est qu'avec le temps qu'il deviendrait vraiment opérationnel, et efficace."

Gentil à eux de nous prévenir... Sauf que le site a été créé, selon WhoIs, le 15-02-2017. Un peu vieux pour du neuf. Pour un algorithme, trouver des mots licencieux est un jeu d'enfant. Les repérer dans une phrase également. Mais lorsque la phrase dit par exemple : "Je t'adore enfoiré. Bon anniversaire", son patinage n'est pas seulement artistique. Cela lui demande une approche globale qui tient sur l'appel au contexte.

Ainsi, la simple phrase : "Je t'adore enfoiré." est incompréhensible à un algorithme chargé de repérer les injures. Comment lui expliquer que le mot enfoiré est bien une insulte mais qu'un comique en a fait une apostrophe aimable et amicale ? Comment lui apprendre qu'un mot a une histoire ? Comment lui faire aborder l'art de la rhétorique ?

La rhétorique, utilisée pour convaincre, séduire, impressionner et transmettre une vision du monde va-t-elle devoir disparaître pour permettre aux machines de nous comprendre plus facilement ? De nous classer aussi...

Ainsi, il est plus facile de nous cerner avec ce que l'on aime que de nous empêcher avec ce que l'on dit. Au fond, c'est rassurant... Et c'est ainsi que notre titre : "Toujours se méfier de l'algorithme" recueille 78% de toxicité. Le plus drôle, c'est que le traducteur de Google, qui est aussi une machine en but au sens des mots, l'a traduit en "Always be wary of the algorithm". Ce qui donne, en retraduction : "Méfiez-vous toujours de l'algorithme", ce qui n'est pas tout à fait la même chose. Mais on ne va pas chipoter avec un algorithme...

En savoir plus
(1) Utiliser l'apprentissage automatique pour réduire la toxicité en ligne



Depuis 1999 au service des associations
Jurisprudence, décrets, lois, etc.

Chèque emploi associatif : du nouveau pour le temps partiel

17-03-2026

Au mois d'octobre 2023, nous avons publié un article intitulé "Le chèque emploi associatif et la gestion du temps partiel" (1). Il apportait un éclairage nouveau grâce à l'arrêt

Une commune peut-elle subventionner une association gravement déficitaire ?

17-03-2026

Une commune peut-elle subventionner une association dont les activités sont gravement déficitaires ? Oui et non, mais plutôt non. Ce n'est pas juridiquement convenable comme

Loi séparatisme : le juge doit être en première ligne

17-03-2026

Le Conseil constitutionnel a été saisi le 18 novembre 2025 par le Conseil d'État d'une question prioritaire de constitutionnalité (QPC) posée par une association portant sur la

Associations cultuelles : le deux poids, deux mesures de l'administration

10-03-2026

La loi de 1905 ne s'applique pas de la même façon que l'on soit une association cultuelle dite de "la France de l'intérieur" d'une part, et de l'Alsace-Moselle, d'autre part. Un

Facturation électronique : le cadre comptable des associations

10-03-2026

L'application de la facturation électronique (e-invoicing, c'est tellement mieux en anglais) et/ou le transfert de données à l'administration (e-reporting, re...) présentent des

Panorama associatif numéro 157 : mars 2026

10-03-2026

Le Panorama associatif de Loi1901 a pour objectif de vous détailler plusieurs mesures qui ne peuvent pas faire l'objet d'un article complet, à l'unité, car trop courtes. Au

Subvention mode d'emploi en 2026

03-03-2026

Depuis la Charte des Engagements réciproques de 2014 et l'arrivée du Contrat d'engagement républicain issu de la loi dite "Séparatisme", l'octroi des subventions a beaucoup changé

Les associations culturelles ont mal à l'emploi

03-03-2026

En 2008, puis en 2020, l'association Opale a publié les deux premières éditions de sa grande enquête nationale sur les associations artistiques et culturelles employeuses. Des

Où s'arrête la liberté d'expression d'un salarié ?

03-03-2026

La liberté d'expression doit être protégée pour ce qu'elle est, elle est forte et doit le demeurer. Dans les relations de travail, elle légitime la critique que le salarié peut

Le remboursements des frais à vos bénévoles

24-02-2026

Un bénévole ne doit en aucun cas s'enrichir financièrement dans le cadre de son activité associative. Mais ce n'est pas une raison pour qu'il en soit de sa poche. Il peut donc

Découvrir 10 autres articles
La société dans tous ses états

L'influence du HCVA sur les lois en vigueur pour les associations

17-03-2026

Dans les avis rendus par le Haut-Conseil à la vie associative sur des textes législatifs ou règlementaires, certaines propositions ont été retenues. Peu nombreuses certes, mais du

Municipales 2026 : la prise illégale d'intérêts

10-03-2026

De très nombreux élus sont mis en examen pour prise illégale d'intérêts. Ce qui ne les empêche pas de briguer un mandat de plus. Mais qu'est-ce que c'est exactement que la prise

Neutraliser le monde associatif

03-03-2026

Le 12 février 2026, l'Observatoire des libertés associatives a publié sa dernière enquête intitulée : "Neutraliser le monde associatif - Enquête sur une injonction à la

Gouvernance des associations en 2026 : le rapport du HCVA

24-02-2026

Les postes à responsabilité au sein des associations restent majoritairement occupés par des hommes (2/3 des présidents), des seniors (1/3 a plus de 65 ans) et des cadres

Trajectoires professionnelles des descendants d'immigrés diplômés

17-02-2026

Cette nouvelle publication émane de la défenseur des droits. Elle constitue une synthèse de la recherche intitulée "Trajectoires et expériences professionnelles des descendants

La contribution des associations au maintien du lien social

10-02-2026

Bien sûr, nous savions que les associations étaient en pointe pour le maintien du lien social dans notre pays. Mais le savoir, c'est bien. Le prouver, c'est mieux. A l'occasion du

Les associations culturelles et sportives en grande fragilité financière

03-02-2026

La Coordination des Fédérations et Associations de Culture et de Communication (COFAC) publie chaque année son Baromètre Flash sur la situation financière des associations

47 millions de contrôles d'identité par an en France

27-01-2026

47 millions de contrôles d'identité en... 2021. Plus de nouveaux chiffres depuis. La Défenseure des droits a saisi la Cour des comptes afin qu'elle engage une étude sur les

Accès aux droits : Relations des usagers avec les services publics

20-01-2026

Chargé par la loi de défendre les droits des usagers de services publics, le Défenseur des droits reçoit, année après année, plus d'une centaine de milliers de saisines, qu'il

Les discriminations fondées sur la religion

13-01-2026

Ce dernier rapport du Défenseur des droits sur les atteintes à la liberté religieuse constitutives de discriminations fondées sur le critère de la religion, fait suite à l'enquête

Découvrir 10 autres articles
Un peu d'ESS dans nos associations

La Semaine de l'économie sociale et solidaire à l'école

17-03-2026

Du 23 au 28 mars 2026, le mois de mars offre une semaine pour découvrir l'économie sociale et solidaire à l'école. Une semaine pour éduquer les élèves à l'économie sociale et

ESS : quand l'IGAS met les pieds dans le plat

10-03-2026

On le sait tous, les métiers du sanitaire, du social et du médico-social souffrent d'un manque d'attractivité et connaissent des tensions de recrutement majeures. Mais quand c'est

Solitude et isolement : le mal qui ronge 1 français sur 4

03-03-2026

Depuis 15 ans, la Fondation de France publie un rapport annuel sur les solitudes en France. Véritable indicateur de l'état du lien social, ces travaux offrent plus qu'une simple

Faire le point sur l'emploi des cadres dans l'ESS

24-02-2026

L'ESS en France représente 2,7 millions de salariés, plus de 340 000 cadres (soit 8,3 % des cadres du secteur privé), 13,7 % des emplois salariés du secteur privé et 152 000

Centres sociaux : de nouvelles orientations de la CNAF

17-02-2026

Le réseau des structures d'animation de la vie sociale couvre l'ensemble du territoire national à travers un maillage dense de centres sociaux (CS) et d'espaces de vie sociale

Les effets du mécénat de compétences sur les associations

10-02-2026

Le mécénat de compétences est un dispositif philanthropique, qui permet à une entreprise de mettre à disposition d'une association d'intérêt général un de ses salariés, sur son

L'essoufflement de la dynamique d'emploi dans l'ESS

03-02-2026

L'Observatoire national de l'Economie Sociale et Solidaire (ESS) publie chaque année, les chiffres de la situation dans l'ESS en deux temps. Pour le premier semestre 2025 (1), un

Faire cause commune : mairies et associations pour les municipales 2026

27-01-2026

Les élections municipales auront lieu les 15 et 22 mars 2026. Le monde associatif se retrouve dans une situation financière et sociale comme il ne l'a sans doute jamais été dans

Baromètre de l'engagement citoyen et solidaire

20-01-2026

La 4ème édition du baromètre HelloAsso, réalisée en partenariat avec OpinionWay, démontre une nouvelle fois, que malgré la grave crise que traverse la France, l'envie d'agir

Politiques locales d'ESS en faveur de la transition socio-écologique

13-01-2026

Provenant des quatre coins du monde, les travaux du Global Forum for Social and Solidarity Economy (GSEF) dressent un panorama de différentes politiques publiques locales,

Découvrir 10 autres articles
Abonnez-vous à Lettrasso+