23-05-2023  SOCIETE LIBRE

Toujours se méfier de l'algorithme

Modérer un forum de commentaires sur Internet est un véritable sport de combat pour qui veut éviter de se retrouver avec des messages à connotation raciste, antisémite ou homophobe. Des milliards de mains sur des millions de claviers et toujours rien de comparable avec Shakespeare... aurait pu dire Pierre Dac. Est-ce à cause de cette réflexion que Google Alphabet a souhaité mettre en ligne le service Perspective ?

Ainsi le géant de l'internet souhaite détecter la haine sur les réseaux sociaux et nous en prévenir avant qu'elle ne se répande ?

C'est gentil à lui surtout qu'il entend mettre gratuitement cet outil au service des sites qui en feront la demande. Merci à Google donc, de nous aider à traquer l'insulte et à nous éviter de nous abîmer la vue sur des lignes de haine. Parfois si féroce que l'on éloigne le regard de l'écran pour ne pas en être aspergé. Ainsi, le programme nous signalera automatiquement le fiel suintant et l'insulte féroce en évaluant leur niveau de toxicité supposée. Merci qui ?

Bon prince, notre gentil géant vert nous donne même une adresse (1) (en anglais) où il est loisible de tester l'engin. En totale transparence, Google nous explique que le service est en période de test et qu'il ne faut pas s'attendre à des miracles. Il nous indique même un article de David Auerbach (un ancien de Google devenu journaliste) qui a testé l'outil avec un succès mitigé.

Jugez par vous-même (test de David Auerbach) :
> "Ce commentaire est très toxique" = 68% de toxicité,
> "Je t'adore enfoiré. Bon anniversaire" = 93% de toxicité,
> "Tu n'es pas raciste" = 77% de toxicité,
> "Les Juifs sont des humains" = 72% de toxicité,
> "Les Juifs ne sont pas des humains" = 62% de toxicité,
> "Hitler n'était pas antisémite" = 53 % de toxicité,
> "Certaines races sont inférieures à d'autres" = 18% de toxicité,
> "Rares sont les musulmans qui sont une menace" = 79% de toxicité.

Comme nous sommes très taquins, nous avons un peu titillé l'outil avec des suggestions très franco-françaises. Ainsi, dans l'ordre, nous lui avons demandé son avis sur :
> "Emmanuel Macron est honnête" = 28% de toxicité,
> "Emmanuel Macron est malhonnête" = 15% de toxicité,
> "Emmanuel Macron est un homme politique" = 23% de toxicité,
> "Emmanuel Macron est président de la république" = 66% de toxicité.

Incroyable, non ? Serait-il possible que... Nous avons immédiatement testé :
>"Emmanuel Macron" = 86% de toxicité.

Soit la machine n'est pas encore au point, soit ses concepteurs l'ont doté d'une âme sondagière... Google nous explique que cette machine abrite un programme qui repose sur un algorithme qui apprend en faisant. Elle est donc en mode apprentissage. Un communiqué des ingénieurs nous apprend que le programme était naissant, "qu'il n'était pas encore d'un usage optimal, qu'il se nourrirait des exemples qu'il aurait à traiter, des corrections humaines et que ce n'est qu'avec le temps qu'il deviendrait vraiment opérationnel, et efficace."

Gentil à eux de nous prévenir... Sauf que le site a été créé, selon WhoIs, le 15-02-2017. Un peu vieux pour du neuf. Pour un algorithme, trouver des mots licencieux est un jeu d'enfant. Les repérer dans une phrase également. Mais lorsque la phrase dit par exemple : "Je t'adore enfoiré. Bon anniversaire", son patinage n'est pas seulement artistique. Cela lui demande une approche globale qui tient sur l'appel au contexte.

Ainsi, la simple phrase : "Je t'adore enfoiré." est incompréhensible à un algorithme chargé de repérer les injures. Comment lui expliquer que le mot enfoiré est bien une insulte mais qu'un comique en a fait une apostrophe aimable et amicale ? Comment lui apprendre qu'un mot a une histoire ? Comment lui faire aborder l'art de la rhétorique ?

La rhétorique, utilisée pour convaincre, séduire, impressionner et transmettre une vision du monde va-t-elle devoir disparaître pour permettre aux machines de nous comprendre plus facilement ? De nous classer aussi...

Ainsi, il est plus facile de nous cerner avec ce que l'on aime que de nous empêcher avec ce que l'on dit. Au fond, c'est rassurant... Et c'est ainsi que notre titre : "Toujours se méfier de l'algorithme" recueille 78% de toxicité. Le plus drôle, c'est que le traducteur de Google, qui est aussi une machine en but au sens des mots, l'a traduit en "Always be wary of the algorithm". Ce qui donne, en retraduction : "Méfiez-vous toujours de l'algorithme", ce qui n'est pas tout à fait la même chose. Mais on ne va pas chipoter avec un algorithme...

En savoir plus
(1) Utiliser l'apprentissage automatique pour réduire la toxicité en ligne

Voici le tag Internet à sélectionner, à copier et à coller sans transformation dans la page du site où vous allez utiliser cet article. D'avance merci.

Sélection du texte ci-dessous
Toujours se méfier de l'algorithme 
Modérer un forum de commentaires sur Internet est un véritable sport de combat pour qui veut éviter de se retrouver avec des messages à connotation raciste, antisémite ou homophobe. Des milliards de mains sur des ...  <a href="https://www.loi1901.com/intranet/a_news/index_news.php?Id=2724" target="_blank">Lire la suite sur Loi1901.com</a>

Découvrir 10 autres articles



Depuis 1999 au service des associations
Jurisprudence, décrets, lois, etc.

Vigilance des associations sportives en matière d'assurance

17-11-2026

Comme le précise l'article L. 321-4 du Code du sport (1) : "Les associations et les fédérations sportives sont tenues d'informer leurs adhérents de l'intérêt que présente la

Panorama associatif numéro 173 : novembre 2026

17-11-2026

Le Panorama associatif de Loi1901 a pour objectif de vous détailler plusieurs mesures qui ne peuvent pas faire l'objet d'un article complet, à l'unité, car trop courtes. Au

Pas d'accès aux données de téléphonie mobile sans contrôle préalable du juge

17-11-2026

Notre pays traverse une période sociale difficile, surtout qu'elle est combinée à une crise économique et politique de première grandeur. En réaction, une partie de la population

Panorama associatif numéro 172 : novembre 2026

10-11-2026

Le Panorama associatif de Loi1901 a pour objectif de vous détailler plusieurs mesures qui ne peuvent pas faire l'objet d'un article complet, à l'unité, car trop courtes. Au

Subvention supprimée et décision suspendue

10-11-2026

L'attribution d'une subvention publique crée des droits au profit de l'association bénéficiaire. Par conséquent, l'Etat ou bien une collectivité ne peut en aucun cas supprimer ou

Toute la procédure de retrait d'agrément du service civique

10-11-2026

Quels sont les motifs de retrait d'agrément des structures agréées pour l'accueil en volontariat associatif ou bien de volontaires en service civique ? Ils sont nombreux et pas

Comment se déroule le retrait de l'agrément d'une association sportive ?

03-11-2026

Conformément à l'article L121-4 du Code du sport, les associations sportives agréées bénéficient automatiquement d'un agrément de l'Etat dit "agrément sport". L'agrément permet

Fonds de dotation : faut-il rémunérer son président ?

03-11-2026

Le fonds de dotation est un organisme destiné à collecter des dons pour aider une association à but non lucratif (mais pas seulement) à réaliser une oeuvre ou une mission

Panorama associatif numéro 171 : novembre 2026

03-11-2026

Le Panorama associatif de Loi1901 a pour objectif de vous détailler plusieurs mesures qui ne peuvent pas faire l'objet d'un article complet, à l'unité, car trop courtes. Au

Transparence des rémunérations : les associations concernées

27-10-2026

La transparence des salaires en France repose sur la transposition de la Directive européenne 2023/970 (1). Cette directive, adoptée le 10 mai 2023, prévoit de renforcer la

Découvrir 10 autres articles
La société dans tous ses états

Déontologie des forces de sécurité : des rapports et des faits

17-11-2026

La déontologie est l'ensemble des règles, des devoirs et des principes moraux qui régissent les règles de conduite au sein d'une profession. Les forces de sécurité

Démocratie et libertés associatives : où placer le curseur ?

10-11-2026

La liberté associative est-elle soluble dans la République actuelle ? La réponse semble négative tant les obstacles se dressent entre l'action et les raisons d'agir. Les

Enquête sur l'accès aux droits : 2e édition - Volume 5

03-11-2026

Les enquêtes successives sur l'accès aux droits est une série d'études menées périodiquement par le Défenseur des droits pour dresser et analyser un état des lieux et identifier

La 21ème édition de la France bénévole 2026

27-10-2026

L'engagement bénévole répond souvent à une pluralité de motivations, même si elles n'ont pas toutes la même force d'incitation. Ce n'est pas la même chose que de donner toute

Les associations sous contraintes forcées

20-10-2026

Il y a un an, le Mouvement associatif initiait une mobilisation historique sous un slogan explicite : "Ça ne tient plus". Le succès fut au rendez-vous, mais, un an après, les 700

Où sont passés les &#8239;milliards engloutis par les associations ?

13-10-2026

Est-ce que les médias du groupe Bolloré, c'est à dire Canal+, Europe 1, Le JDD, Hachette Livre, Voici, Paris Match, Femme Actuelle, Capital, etc. aiment les associations ? En

L'Observatoire des procédures collectives de l'ESS

06-10-2026

Connaissez-vous le BODACC ? Il s'agit du bulletin officiel des annonces civiles et commerciales. Ce site assure la publicité des actes enregistrés au registre national des

Action de groupe : la procédure de demande d'agrément

29-09-2026

Nous avons écrit de nombreux articles sur ce sujet. L'action de groupe est une procédure exercée en justice, par une personne habilitée, pour le compte de plusieurs personnes

Autoconsommation collective : l'électricité associative

22-09-2026

L'autoconsommation collective est née, en France, de la loi relative à la transition énergétique pour la croissance verte (LTECV) de 2015. Elle permet un mode de partage

ESS : un essaimage réussi

15-09-2026

L'Assemblée Générale des Nations unies, dans sa résolution du 19 décembre 2024 sur l'ESS, a demandé au secrétaire général de l'ONU de publier un rapport sur l'évolution de

Découvrir 10 autres articles
Un peu d'ESS dans nos associations

Les associations, un obstacle aux projets de l'extrême droite ?

17-11-2026

Après les nombreuses victoires électorales du RN aux dernières élections municipales, les associations des communes gagnées par ce parti politique, ont vite compris la nouvelle

La relation entre les collectivités et les associations

10-11-2026

"On est pas d'un pays, mais on est d'une ville". Cette chanson de Bernard Lavilliers exprime l'idée que l'identité profonde d'un individu est souvent façonnée par le décor intime

Libérez votre générosité pour les associations du Droit

03-11-2026

La journée mondiale du don a lieu le 2 décembre puis vient celle du bénévolat et des bénévoles le 5 décembre. Savez-vous que les étudiants en Droit et les professionnels du Droit

Economie sociale et solidaire : elle a tout d'une grande

27-10-2026

L'Economie sociale et solidaire est non seulement une vision structurante pour de nombreux métiers et filières professionnelles, mais porte également en germe, des pratiques et

Le montant net social vers une évolution pour 2027 ?

20-10-2026

Pour rappel, le Montant net social (MNS) est une donnée qui figure obligatoirement sur le bulletin de paie et qui est également transmise en DSN (Déclaration Sociale Nominative).

L'emploi associatif en baisse constante depuis 2024

13-10-2026

En 2024, le salaire en équivalent temps plein (EQTP) d'un poste est en moyenne de 2210 euros nets par mois dans l'emploi associatif, soit 19 % de moins que dans le privé (2720

Promouvoir et développer l'ESS pour renforcer son influence

06-10-2026

Du 29 au 31 octobre 2025, s'est tenu à Bordeaux, le 7ème Forum mondial de l'Économie Sociale et Solidaire (GSEF). Nous avions, à l'époque, largement relayé cette information.

Quand le Sénat prend le train de l'ESS

29-09-2026

Un "train de sénateur" est une expression qui désigne une allure lente, calme et sans aucun empressement. C'est avec la même lenteur qu'une commission d'enquête sénatoriale vient

Les employeurs de l'ESS alertent sur une situation financière critique

22-09-2026

Les associations, les mutuelles, les fondations et les coopératives alertent : plus de 18 400 emplois ont été détruits en 2025. Les principaux acteurs du secteur redoutent une

Ce que l'ESS apporte à la société : édition du Panorama 2026

15-09-2026

La liste des contributions nombreuses que l'ESS apporte à la société est longue. Une importance qui nécessite de dresser un panorama complet, pour mieux apprécier le rôle

Découvrir 10 autres articles
Abonnez-vous à Lettrasso+