Toujours se méfier de l'algorithme

23-05-2023 SOCIETE LIBRE
Modérer un forum de commentaires sur Internet est un véritable sport de combat pour qui veut éviter de se retrouver avec des messages à connotation raciste, antisémite ou homophobe. Des milliards de mains sur des millions de claviers et toujours rien de comparable avec Shakespeare... aurait pu dire Pierre Dac. Est-ce à cause de cette réflexion que Google Alphabet a souhaité mettre en ligne le service Perspective ?

Ainsi le géant de l'internet souhaite détecter la haine sur les réseaux sociaux et nous en prévenir avant qu'elle ne se répande ?

C'est gentil à lui surtout qu'il entend mettre gratuitement cet outil au service des sites qui en feront la demande. Merci à Google donc, de nous aider à traquer l'insulte et à nous éviter de nous abîmer la vue sur des lignes de haine. Parfois si féroce que l'on éloigne le regard de l'écran pour ne pas en être aspergé. Ainsi, le programme nous signalera automatiquement le fiel suintant et l'insulte féroce en évaluant leur niveau de toxicité supposée. Merci qui ?

Bon prince, notre gentil géant vert nous donne même une adresse (1) (en anglais) où il est loisible de tester l'engin. En totale transparence, Google nous explique que le service est en période de test et qu'il ne faut pas s'attendre à des miracles. Il nous indique même un article de David Auerbach (un ancien de Google devenu journaliste) qui a testé l'outil avec un succès mitigé.

Jugez par vous-même (test de David Auerbach) :
> "Ce commentaire est très toxique" = 68% de toxicité,
> "Je t'adore enfoiré. Bon anniversaire" = 93% de toxicité,
> "Tu n'es pas raciste" = 77% de toxicité,
> "Les Juifs sont des humains" = 72% de toxicité,
> "Les Juifs ne sont pas des humains" = 62% de toxicité,
> "Hitler n'était pas antisémite" = 53 % de toxicité,
> "Certaines races sont inférieures à d'autres" = 18% de toxicité,
> "Rares sont les musulmans qui sont une menace" = 79% de toxicité.

Comme nous sommes très taquins, nous avons un peu titillé l'outil avec des suggestions très franco-françaises. Ainsi, dans l'ordre, nous lui avons demandé son avis sur :
> "Emmanuel Macron est honnête" = 28% de toxicité,
> "Emmanuel Macron est malhonnête" = 15% de toxicité,
> "Emmanuel Macron est un homme politique" = 23% de toxicité,
> "Emmanuel Macron est président de la république" = 66% de toxicité.

Incroyable, non ? Serait-il possible que... Nous avons immédiatement testé :
>"Emmanuel Macron" = 86% de toxicité.

Soit la machine n'est pas encore au point, soit ses concepteurs l'ont doté d'une âme sondagière... Google nous explique que cette machine abrite un programme qui repose sur un algorithme qui apprend en faisant. Elle est donc en mode apprentissage. Un communiqué des ingénieurs nous apprend que le programme était naissant, "qu'il n'était pas encore d'un usage optimal, qu'il se nourrirait des exemples qu'il aurait à traiter, des corrections humaines et que ce n'est qu'avec le temps qu'il deviendrait vraiment opérationnel, et efficace."

Gentil à eux de nous prévenir... Sauf que le site a été créé, selon WhoIs, le 15-02-2017. Un peu vieux pour du neuf. Pour un algorithme, trouver des mots licencieux est un jeu d'enfant. Les repérer dans une phrase également. Mais lorsque la phrase dit par exemple : "Je t'adore enfoiré. Bon anniversaire", son patinage n'est pas seulement artistique. Cela lui demande une approche globale qui tient sur l'appel au contexte.

Ainsi, la simple phrase : "Je t'adore enfoiré." est incompréhensible à un algorithme chargé de repérer les injures. Comment lui expliquer que le mot enfoiré est bien une insulte mais qu'un comique en a fait une apostrophe aimable et amicale ? Comment lui apprendre qu'un mot a une histoire ? Comment lui faire aborder l'art de la rhétorique ?

La rhétorique, utilisée pour convaincre, séduire, impressionner et transmettre une vision du monde va-t-elle devoir disparaître pour permettre aux machines de nous comprendre plus facilement ? De nous classer aussi...

Ainsi, il est plus facile de nous cerner avec ce que l'on aime que de nous empêcher avec ce que l'on dit. Au fond, c'est rassurant... Et c'est ainsi que notre titre : "Toujours se méfier de l'algorithme" recueille 78% de toxicité. Le plus drôle, c'est que le traducteur de Google, qui est aussi une machine en but au sens des mots, l'a traduit en "Always be wary of the algorithm". Ce qui donne, en retraduction : "Méfiez-vous toujours de l'algorithme", ce qui n'est pas tout à fait la même chose. Mais on ne va pas chipoter avec un algorithme...

En savoir plus
(1) Utiliser l'apprentissage automatique pour réduire la toxicité en ligne



Depuis 1999 au service des associations
Jurisprudence, décrets, lois, etc.

Le pro bono n'est plus ce qu'il était

06-10-2026

Voici la question fiscale du jour : "un professionnel libéral qui travaille gratuitement pour une association réalise-t-il une recette imposable à hauteur de ce qu'il aurait pu

Occupation du domaine privé d'une collectivité au bénéfice d'une association

06-10-2026

Bien souvent, après une élection municipale, le nouveau maire retire le droit d'occupation du domaine privé de sa collectivité à une association soutenue par le maire sortant. Que

Panorama associatif numéro 168 : octobre 2026

06-10-2026

Le Panorama associatif de Loi1901 a pour objectif de vous détailler plusieurs mesures qui ne peuvent pas faire l'objet d'un article complet, à l'unité, car trop courtes. Au

L'abus de confiance expliqué aux associations en 2 exemples

29-09-2026

Selon le ministère de la Justice, "l'abus de confiance est le fait pour une personne, à qui un bien a été remis volontairement, d'en détourner l'usage à son profit ou de

Associations : attention à l'injure publique dans vos publications

29-09-2026

Le récent arrêt de la chambre criminelle de la Cour de Cassation (1), publié au Bulletin, constitue une décision de principe très importante afin de clarifier la frontière ténue

Arnaquer une association peut coûter cher

29-09-2026

Trop souvent, les arnaqueurs à la petite semaine pensent que voler une association ne porte pas nécessairement à conséquence. Erreur qui peut coûter très cher pour qui ignore

Qu'est-ce que le régime du Porté à Connaissance De dans le secteur associatif ?

22-09-2026

Porté à la Connaissance De signifie que le récepteur a reçu une information qui peut, ou pas, demander une réponse. Dns le cas d'une administration, ce "Porté à la Connaissance

Panorama associatif numéro 167 : septembre 2026

22-09-2026

Le Panorama associatif de Loi1901 a pour objectif de vous détailler plusieurs mesures qui ne peuvent pas faire l'objet d'un article complet, à l'unité, car trop courtes. Au

Retrait d'une qualification : choisir le bon tribunal

22-09-2026

De nombreuses associations sont dotées d'une possibilité de certification. Que ce soit pour une longue pratique ou simplement par la reconnaissance des tiers, ces structures

Le ballet juridique de l'été prend fin : voici sa partition associative

15-09-2026

La fin de l'été arrive même si le soleil reste de mise. Pendant la saison estivale, le journal officiel ne chôme pas. Les publications s'enchaînent. Il nous apparait donc

Découvrir 10 autres articles
La société dans tous ses états

L'Observatoire des procédures collectives de l'ESS

06-10-2026

Connaissez-vous le BODACC ? Il s'agit du bulletin officiel des annonces civiles et commerciales. Ce site assure la publicité des actes enregistrés au registre national des

Action de groupe : la procédure de demande d'agrément

29-09-2026

Nous avons écrit de nombreux articles sur ce sujet. L'action de groupe est une procédure exercée en justice, par une personne habilitée, pour le compte de plusieurs personnes

Autoconsommation collective : l'électricité associative

22-09-2026

L'autoconsommation collective est née, en France, de la loi relative à la transition énergétique pour la croissance verte (LTECV) de 2015. Elle permet un mode de partage

ESS : un essaimage réussi

15-09-2026

L'Assemblée Générale des Nations unies, dans sa résolution du 19 décembre 2024 sur l'ESS, a demandé au secrétaire général de l'ONU de publier un rapport sur l'évolution de

Comment mieux protéger les mineurs victimes de traite des êtres humains ?

08-09-2026

Le 23 juillet 2026, François-Noël Buffet a succédé à Claire Hédon à la tête du Défenseur des droits. Cette prise de fonction marque l'ouverture d'un nouveau mandat de six ans à la

Septembre, le mois des Forums des associations partout en France

01-09-2026

Le mois de septembre approche et, avec lui, arrive le traditionnel et salutaire Forum des Associations. Réussir ce moment est le bon moyen de rencontrer de nouvelles personnes

Le guide Tous responsables absout les coupables

25-08-2026

Quand un gouvernement publie un guide intitulé "Tous responsables", c'est qu'il cherche à diluer ses propres responsabilités qui pourtant, dans le cas de la France, sont

Présentation d'une vieille dame très digne

14-07-2026

La France compte une association pour 43 habitants, soit 1,6 million en activité. Chaque année, plus de 70 000 structures sont créées et un Français sur quatre y est bénévole.

L'accompagnement associatif pour renforcer le pouvoir d'agir des associations

07-07-2026

Oui, il existe en France, un réseau de structures de proximité qui proposent un service gratuit d'information, d'orientation, de conseil et d'accompagnement pour que chaque

Le bilan 2020-2026 de Claire Hédon à la direction du défenseur des droits

30-06-2026

"Protéger les droits des personnes, c'est protéger leur dignité. La dignité est ce que l'humanité a en commun, et ce qui prévient de toute forme de déshumanisation." Claire Hédon.

Découvrir 10 autres articles
Un peu d'ESS dans nos associations

Promouvoir et développer l'ESS pour renforcer son influence

06-10-2026

Du 29 au 31 octobre 2025, s'est tenu à Bordeaux, le 7ème Forum mondial de l'Économie Sociale et Solidaire (GSEF). Nous avions, à l'époque, largement relayé cette information.

Quand le Sénat prend le train de l'ESS

29-09-2026

Un "train de sénateur" est une expression qui désigne une allure lente, calme et sans aucun empressement. C'est avec la même lenteur qu'une commission d'enquête sénatoriale vient

Les employeurs de l'ESS alertent sur une situation financière critique

22-09-2026

Les associations, les mutuelles, les fondations et les coopératives alertent : plus de 18 400 emplois ont été détruits en 2025. Les principaux acteurs du secteur redoutent une

Ce que l'ESS apporte à la société : édition du Panorama 2026

15-09-2026

La liste des contributions nombreuses que l'ESS apporte à la société est longue. Une importance qui nécessite de dresser un panorama complet, pour mieux apprécier le rôle

Agrément or not agrément, that is the question

08-09-2026

Une association écologiste, même sans agrément, est-elle recevable à se constituer partie civile si elle subit un préjudice personnel et direct lié à la spécificité de sa mission

Faire évoluer le modèle économique des associations ?

01-09-2026

Depuis de nombreuses années, le modèle économique des associations, basé sur les aides publiques et les cotisations, est remis en cause. La solution invoquée est toujours la même

Vos données ont été piratées : Guide de survie complet 2026

25-08-2026

Les fuites de données frappant les Français sont désormais monnaie courante. En principe, les organismes doivent informer directement les personnes concernées lorsque la violation

Associations et IA : l'étude 2026 de France générosités

14-07-2026

Votre association utilise-t-elle l'Intelligence Artificielle sans le savoir comme Monsieur Jourdain avec la prose ? La réponse est oui, bien sûr. Mais combien de structures,

La loi du 1er juillet 1901 a 125 ans

07-07-2026

Avec 1,6 million d'associations actives et plus de 15 millions de bénévoles, le secteur associatif reste, 125 ans après sa naissance, un pilier de la cohésion sociale, de

Simplification de la vie économique : une loi anti ESS ?

30-06-2026

Allégement des normes qui pèsent sur les petites entreprises, accès amélioré à la commande publique, nouveaux droits en matière d'assurance dommages et de banque, etc. Mais aussi,

Découvrir 10 autres articles
Abonnez-vous à Lettrasso+