Toujours se méfier de l'algorithme

23-05-2023 SOCIETE LIBRE
Modérer un forum de commentaires sur Internet est un véritable sport de combat pour qui veut éviter de se retrouver avec des messages à connotation raciste, antisémite ou homophobe. Des milliards de mains sur des millions de claviers et toujours rien de comparable avec Shakespeare... aurait pu dire Pierre Dac. Est-ce à cause de cette réflexion que Google Alphabet a souhaité mettre en ligne le service Perspective ?

Ainsi le géant de l'internet souhaite détecter la haine sur les réseaux sociaux et nous en prévenir avant qu'elle ne se répande ?

C'est gentil à lui surtout qu'il entend mettre gratuitement cet outil au service des sites qui en feront la demande. Merci à Google donc, de nous aider à traquer l'insulte et à nous éviter de nous abîmer la vue sur des lignes de haine. Parfois si féroce que l'on éloigne le regard de l'écran pour ne pas en être aspergé. Ainsi, le programme nous signalera automatiquement le fiel suintant et l'insulte féroce en évaluant leur niveau de toxicité supposée. Merci qui ?

Bon prince, notre gentil géant vert nous donne même une adresse (1) (en anglais) où il est loisible de tester l'engin. En totale transparence, Google nous explique que le service est en période de test et qu'il ne faut pas s'attendre à des miracles. Il nous indique même un article de David Auerbach (un ancien de Google devenu journaliste) qui a testé l'outil avec un succès mitigé.

Jugez par vous-même (test de David Auerbach) :
> "Ce commentaire est très toxique" = 68% de toxicité,
> "Je t'adore enfoiré. Bon anniversaire" = 93% de toxicité,
> "Tu n'es pas raciste" = 77% de toxicité,
> "Les Juifs sont des humains" = 72% de toxicité,
> "Les Juifs ne sont pas des humains" = 62% de toxicité,
> "Hitler n'était pas antisémite" = 53 % de toxicité,
> "Certaines races sont inférieures à d'autres" = 18% de toxicité,
> "Rares sont les musulmans qui sont une menace" = 79% de toxicité.

Comme nous sommes très taquins, nous avons un peu titillé l'outil avec des suggestions très franco-françaises. Ainsi, dans l'ordre, nous lui avons demandé son avis sur :
> "Emmanuel Macron est honnête" = 28% de toxicité,
> "Emmanuel Macron est malhonnête" = 15% de toxicité,
> "Emmanuel Macron est un homme politique" = 23% de toxicité,
> "Emmanuel Macron est président de la république" = 66% de toxicité.

Incroyable, non ? Serait-il possible que... Nous avons immédiatement testé :
>"Emmanuel Macron" = 86% de toxicité.

Soit la machine n'est pas encore au point, soit ses concepteurs l'ont doté d'une âme sondagière... Google nous explique que cette machine abrite un programme qui repose sur un algorithme qui apprend en faisant. Elle est donc en mode apprentissage. Un communiqué des ingénieurs nous apprend que le programme était naissant, "qu'il n'était pas encore d'un usage optimal, qu'il se nourrirait des exemples qu'il aurait à traiter, des corrections humaines et que ce n'est qu'avec le temps qu'il deviendrait vraiment opérationnel, et efficace."

Gentil à eux de nous prévenir... Sauf que le site a été créé, selon WhoIs, le 15-02-2017. Un peu vieux pour du neuf. Pour un algorithme, trouver des mots licencieux est un jeu d'enfant. Les repérer dans une phrase également. Mais lorsque la phrase dit par exemple : "Je t'adore enfoiré. Bon anniversaire", son patinage n'est pas seulement artistique. Cela lui demande une approche globale qui tient sur l'appel au contexte.

Ainsi, la simple phrase : "Je t'adore enfoiré." est incompréhensible à un algorithme chargé de repérer les injures. Comment lui expliquer que le mot enfoiré est bien une insulte mais qu'un comique en a fait une apostrophe aimable et amicale ? Comment lui apprendre qu'un mot a une histoire ? Comment lui faire aborder l'art de la rhétorique ?

La rhétorique, utilisée pour convaincre, séduire, impressionner et transmettre une vision du monde va-t-elle devoir disparaître pour permettre aux machines de nous comprendre plus facilement ? De nous classer aussi...

Ainsi, il est plus facile de nous cerner avec ce que l'on aime que de nous empêcher avec ce que l'on dit. Au fond, c'est rassurant... Et c'est ainsi que notre titre : "Toujours se méfier de l'algorithme" recueille 78% de toxicité. Le plus drôle, c'est que le traducteur de Google, qui est aussi une machine en but au sens des mots, l'a traduit en "Always be wary of the algorithm". Ce qui donne, en retraduction : "Méfiez-vous toujours de l'algorithme", ce qui n'est pas tout à fait la même chose. Mais on ne va pas chipoter avec un algorithme...

En savoir plus
(1) Utiliser l'apprentissage automatique pour réduire la toxicité en ligne



Depuis 1999 au service des associations
Jurisprudence, décrets, lois, etc.

La vie privée d'une association : fantasme ou réalité ?

23-05-2023

Est-il possible, pour une association, d'interdire l'accès à une réunion de bureau, de CA ou même à une assemblée générale, à une personne qui n'est pas membre ? Dans un quiz

Conflits d'intérêts publics pour les élus locaux

23-05-2023

C'est la loi dite "3DS" qui a introduit un régime juridique général en matière d'appréciation des risques pour les élus qui représentent sa collectivité au sein d'une personne

Panorama associatif numéro 69 : mai 2023

23-05-2023

Le Panorama associatif de Loi1901 a pour objectif de vous détailler plusieurs mesures qui ne peuvent pas faire l'objet d'un article complet, à l'unité, car trop courtes. Au

Panorama associatif numéro 68 : mai 2023

16-05-2023

Le Panorama associatif de Loi1901 a pour objectif de vous détailler plusieurs mesures qui ne peuvent pas faire l'objet d'un article complet, à l'unité, car trop courtes. Au

Comment révoquer Ad Nutum le dirigeant d'une association ?

16-05-2023

La révocation ad nutum, qui peut se traduire par "sur un signe de tête", permet de mettre un terme aux mandats des dirigeants à tout moment, sans préavis et sans motif. Alors que

Le nouveau barème Macron : indemnité pour licenciement abusif

16-05-2023

Un salarié licencié par son employeur associatif ou pas, peut contester son licenciement en saisissant rapidement le conseil des prud'hommes (CPH). De fait, c'est au juge de

Relation entre associations et prestataires bénévoles ou pas

09-05-2023

Une association est de plus en plus souvent amenée à travailler avec des prestataires. De l'organisation d'un loto à l'encadrement de cours de musique, la palette est large et

Droit du travail : rupture anticipée d'un CDD

09-05-2023

Le CDD est un contrat de travail dit " d'exception" par rapport au contrat à durée indéterminée (CDI), qui lui est un contrat de droit commun. De fait, la rupture anticipée du CDD

Panorama associatif numéro 67 : mai 2023

09-05-2023

Le Panorama associatif de Loi1901 a pour objectif de vous détailler plusieurs mesures qui ne peuvent pas faire l'objet d'un article complet, à l'unité, car trop courtes. Au

Révocation du président d'une association : nouvelle jurisprudence

02-05-2023

Nous avons déjà publié plusieurs articles sur le sujet (1). Il est vrai que nombre d'associations se retrouvent en difficulté à cause d'un président autoritaire, voire malhonnête.

Découvrir 10 autres articles
La société dans tous ses états

Toujours se méfier de l'algorithme

23-05-2023

Modérer un forum de commentaires sur Internet est un véritable sport de combat pour qui veut éviter de se retrouver avec des messages à connotation raciste, antisémite ou

Numéro 20

16-05-2023

"Je ne suis pas un numéro" hurlait Patrick McGoohan qui interprétait le numéro 6 dans la célèbre série britannique "Le Prisonnier" dans les années soixante. Sans oublier Marilyn

L'art de rater un train qui n'est jamais parti

09-05-2023

La SNCF n'aime pas les usagers, mais elle adore ses clients. L'aventure que je vais vous conter illustre très bien ce qui pourrait être une maxime et qui n'est, hélas, qu'un

La résilience du scoubidou

02-05-2023

Au lendemain d'un 1er mai aussi fourni que furieux, j'ai eu envie de vous parler du scoubidou. Parce que je pensais que le scoubidou n'existait plus. Mais, dans une de mes dérives

Les libertés associatives sont en danger

24-04-2023

Après la Défenseure des droits, c'est au tour du Mouvement Associatif de lancer l'alerte. 129 acteurs de la société civile dont la Ligue des droits de l'Homme, Laurent Berger de

Quand Marianne touche le Fonds

18-04-2023

Le 16 octobre 2020, à Conflans-Sainte-Honorine, aux abords du collège du Bois-d'Aulne dans lequel il exerçait en tant que professeur d'histoire-géographie, Samuel Paty, 47 ans, a

Les Droits de l'Homme se cherchent-ils une nouvelle patrie ?

11-04-2023

France, patrie des Droits de l'Homme. Depuis la Déclaration des droits de l'homme et du citoyen de 1789, la France est souvent appelée "patrie des droits de l'homme", en raison de

Les chiffres clés de la vie associative 2023 - INJEP

04-04-2023

Avec cette nouvelle édition des chiffres clés de la vie associative 2023, l'Institut national de la jeunesse et de l'éducation populaire (INJEP), délivre un ensemble d'indicateurs

Cela en est assez de la cécité du cétacé

29-03-2023

Jean Carmet, le regretté acteur, répétait souvent à ses amis une phrase aussi drôle que vraie : "Un sous-marin, pour une baleine, c'est un gros suppositoire". Pourquoi cette

Montrer le monde tel qu'il est

21-03-2023

Cette semaine, l'envie est à l'écrémage. Vous livrer une succession de petites nouvelles aérées, mais pas forcément fraîches, façon purée en sachet plutôt que l'article parfois

Découvrir 10 autres articles
Un peu d'ESS dans nos associations

L'art et la manière de quitter une association

23-05-2023

Que vous soyez dirigeant ou simple membre, vous pouvez quitter une association sans avoir à vous justifier et celle-ci ne peut pas vous en empêcher. Mais ceci étant posé, est-ce

L'enfance en danger : mettre des mots sur le mal

16-05-2023

Le premier poste français d'écoute voit le jour à Boulogne-Billancourt en 1960 sous le nom de S.O.S Amitié. D'autres lieux d'écoute s'ouvrent en France les années suivantes sous

La vie associative en 2023 : les chiffres-clés de l'INJEP

09-05-2023

Avec cette nouvelle édition des chiffres clés de la vie associative 2023, l'Institut national de la jeunesse et de l'éducation populaire (INJEP) rend accessible un ensemble

Le guide du lanceur d'alerte par la Défenseure des droits

02-05-2023

En ce moment, Claire Hédon, la Défenseure des droits est sur tous les fronts. Il faut dire qu'elle a fort à faire si l'on se réfère aux différents rapports (1) qui émanent de son

Le rapport 2023 de la défenseure des droits

25-04-2023

Le suffrage universel permet à tous les citoyens d'élire des représentants chargés d'exprimer la volonté générale dans une démocratie représentative. Mais, cela ne suffit pas. En

Présidence des associations : les femmes largement minoritaires

18-04-2023

Malgré une incontestable progression constante, mais lente, les hommes restent encore largement majoritaires à la tête des associations françaises. Quelles places occupent les

Les Français et le bénévolat en 2023 : vers une recomposition ?

11-04-2023

Recherches & Solidarités, l'association bien connue de nos lecteurs pour ses enquêtes sur tous les secteurs du monde associatif, vient de publier une nouvelle édition de son

Quand l'ESS fait la Une de Playboy

04-04-2023

Marlène Schiappa est secrétaire d'État chargée de l'Économie sociale et solidaire. Poste qu'elle occupe de façon assez discrète pour ne pas dire plus (1). On sent bien que les

Contrat d'engagement républicain : la lutte continue

28-03-2023

Le Contrat d'engagement républicain est l'une des mesures phares de la loi dite "séparatisme" d'août 2021, voire même l'unique objectif pour certains. Depuis la promulgation de la

France Travail va remplacer Pôle Emploi : pourquoi ?

21-03-2023

Pour tenir l'objectif ambitieux du président de la République d'arriver à 5% de chômeurs en 2027 (et pas réaliste selon les experts), le gouvernement va créer France Travail qui

Découvrir 10 autres articles
Abonnez-vous à Lettrasso+