23-05-2023  SOCIETE LIBRE

Toujours se méfier de l'algorithme

Modérer un forum de commentaires sur Internet est un véritable sport de combat pour qui veut éviter de se retrouver avec des messages à connotation raciste, antisémite ou homophobe. Des milliards de mains sur des millions de claviers et toujours rien de comparable avec Shakespeare... aurait pu dire Pierre Dac. Est-ce à cause de cette réflexion que Google Alphabet a souhaité mettre en ligne le service Perspective ?

Ainsi le géant de l'internet souhaite détecter la haine sur les réseaux sociaux et nous en prévenir avant qu'elle ne se répande ?

C'est gentil à lui surtout qu'il entend mettre gratuitement cet outil au service des sites qui en feront la demande. Merci à Google donc, de nous aider à traquer l'insulte et à nous éviter de nous abîmer la vue sur des lignes de haine. Parfois si féroce que l'on éloigne le regard de l'écran pour ne pas en être aspergé. Ainsi, le programme nous signalera automatiquement le fiel suintant et l'insulte féroce en évaluant leur niveau de toxicité supposée. Merci qui ?

Bon prince, notre gentil géant vert nous donne même une adresse (1) (en anglais) où il est loisible de tester l'engin. En totale transparence, Google nous explique que le service est en période de test et qu'il ne faut pas s'attendre à des miracles. Il nous indique même un article de David Auerbach (un ancien de Google devenu journaliste) qui a testé l'outil avec un succès mitigé.

Jugez par vous-même (test de David Auerbach) :
> "Ce commentaire est très toxique" = 68% de toxicité,
> "Je t'adore enfoiré. Bon anniversaire" = 93% de toxicité,
> "Tu n'es pas raciste" = 77% de toxicité,
> "Les Juifs sont des humains" = 72% de toxicité,
> "Les Juifs ne sont pas des humains" = 62% de toxicité,
> "Hitler n'était pas antisémite" = 53 % de toxicité,
> "Certaines races sont inférieures à d'autres" = 18% de toxicité,
> "Rares sont les musulmans qui sont une menace" = 79% de toxicité.

Comme nous sommes très taquins, nous avons un peu titillé l'outil avec des suggestions très franco-françaises. Ainsi, dans l'ordre, nous lui avons demandé son avis sur :
> "Emmanuel Macron est honnête" = 28% de toxicité,
> "Emmanuel Macron est malhonnête" = 15% de toxicité,
> "Emmanuel Macron est un homme politique" = 23% de toxicité,
> "Emmanuel Macron est président de la république" = 66% de toxicité.

Incroyable, non ? Serait-il possible que... Nous avons immédiatement testé :
>"Emmanuel Macron" = 86% de toxicité.

Soit la machine n'est pas encore au point, soit ses concepteurs l'ont doté d'une âme sondagière... Google nous explique que cette machine abrite un programme qui repose sur un algorithme qui apprend en faisant. Elle est donc en mode apprentissage. Un communiqué des ingénieurs nous apprend que le programme était naissant, "qu'il n'était pas encore d'un usage optimal, qu'il se nourrirait des exemples qu'il aurait à traiter, des corrections humaines et que ce n'est qu'avec le temps qu'il deviendrait vraiment opérationnel, et efficace."

Gentil à eux de nous prévenir... Sauf que le site a été créé, selon WhoIs, le 15-02-2017. Un peu vieux pour du neuf. Pour un algorithme, trouver des mots licencieux est un jeu d'enfant. Les repérer dans une phrase également. Mais lorsque la phrase dit par exemple : "Je t'adore enfoiré. Bon anniversaire", son patinage n'est pas seulement artistique. Cela lui demande une approche globale qui tient sur l'appel au contexte.

Ainsi, la simple phrase : "Je t'adore enfoiré." est incompréhensible à un algorithme chargé de repérer les injures. Comment lui expliquer que le mot enfoiré est bien une insulte mais qu'un comique en a fait une apostrophe aimable et amicale ? Comment lui apprendre qu'un mot a une histoire ? Comment lui faire aborder l'art de la rhétorique ?

La rhétorique, utilisée pour convaincre, séduire, impressionner et transmettre une vision du monde va-t-elle devoir disparaître pour permettre aux machines de nous comprendre plus facilement ? De nous classer aussi...

Ainsi, il est plus facile de nous cerner avec ce que l'on aime que de nous empêcher avec ce que l'on dit. Au fond, c'est rassurant... Et c'est ainsi que notre titre : "Toujours se méfier de l'algorithme" recueille 78% de toxicité. Le plus drôle, c'est que le traducteur de Google, qui est aussi une machine en but au sens des mots, l'a traduit en "Always be wary of the algorithm". Ce qui donne, en retraduction : "Méfiez-vous toujours de l'algorithme", ce qui n'est pas tout à fait la même chose. Mais on ne va pas chipoter avec un algorithme...

En savoir plus
(1) Utiliser l'apprentissage automatique pour réduire la toxicité en ligne

Voici le tag Internet à sélectionner, à copier et à coller sans transformation dans la page du site où vous allez utiliser cet article. D'avance merci.

Sélection du texte ci-dessous
Toujours se méfier de l'algorithme 
Modérer un forum de commentaires sur Internet est un véritable sport de combat pour qui veut éviter de se retrouver avec des messages à connotation raciste, antisémite ou homophobe. Des milliards de mains sur des ...  <a href="https://www.loi1901.com/intranet/a_news/index_news.php?Id=2724" target="_blank">Lire la suite sur Loi1901.com</a>

Découvrir 10 autres articles



Depuis 1999 au service des associations
Jurisprudence, décrets, lois, etc.

Panorama associatif numéro 141 : septembre 2025

16-09-2025

Le Panorama associatif de Loi1901 a pour objectif de vous détailler plusieurs mesures qui ne peuvent pas faire l'objet d'un article complet, à l'unité, car trop courtes. Au

La responsabilité personnelle des dirigeants associatifs

16-09-2025

La responsabilité personnelle des dirigeants associatifs a croisé cette été, les dernières jurisprudences en matière de mise en jeu de celles-ci. Vient enfin l'heure de confirmer

Le Certificat de Formation à la Gestion Associative (CFGA) change de nom

16-09-2025

Le certificat de formation à la gestion associative (CFGA) est devenu "Certif'Asso", ce début septembre 2025. Imaginé comme un véritable parcours de formation pour accompagner la

Facture électronique : le tour des associations viendra

09-09-2025

La facturation électronique est obligatoire aux opérations réalisées entre deux assujettis établis en France pour lesquelles les règles de facturation françaises s'appliquent (1).

Panorama associatif numéro 140 : septembre 2025

09-09-2025

Le Panorama associatif de Loi1901 a pour objectif de vous détailler plusieurs mesures qui ne peuvent pas faire l'objet d'un article complet, à l'unité, car trop courtes. Au

L'aide-mémoire juridique de la rentrée 2025

09-09-2025

En cette rentrée mouvementée, il nous est apparu utile de faire un rappel de tout ce que l'été législatif a modifié au regard des activités associatives. Décrets, ordonnances et

Bien réussir son Forum des associations

02-09-2025

Participer au forum des associations de votre commune est le seul réel moyen pour faire connaître votre association et solliciter de nouvelles personnes à s'engager dans vos

Panorama associatif numéro 139 : début septembre 2025

02-09-2025

Le Panorama associatif de Loi1901 a pour objectif de vous détailler plusieurs mesures qui ne peuvent pas faire l'objet d'un article complet, à l'unité, car trop courtes. Au

Savoir convoquer et tenir une assemblée générale en 12 points

02-09-2025

Le mois de septembre est bien souvent la période des assemblées générales qui se tiennent juste après la fin des forums des associations. Une bonne façon de faire le bilan de

Quand le licenciement est refusé, le salarié est souvent protégé

26-08-2025

Un salarié candidat lors d'une élection professionnelle, ou bien titulaire ou encore ancien titulaire d'un mandat de représentant du personnel ou tout simplement exerçant certains

Découvrir 10 autres articles
La société dans tous ses états

Délégation de signature ou bien délégation de pouvoirs ?

16-09-2025

Comment distinguer la délégation de signature de la délégation de pouvoirs ? Dans le premier cas, le représentant légal (nommé le délégant) se borne à charger une personne (nommé

Etat de droit égal droit de manifester

09-09-2025

Hier matin, je me promenais dans un jardin public quand j'ai entendu des rires. Je me suis approché et j'ai vu cinq jeunes gens assis sur un banc. L'un d'entre eux avait un petit

La Scop : la petite graine qui pousse bien

02-09-2025

La définition de la Coopérative est simple : "c'est une association autonome de personnes volontairement réunies pour satisfaire leurs aspirations et besoins économiques, sociaux

Service civique : beaucoup trop de ruptures de contrats

26-08-2025

Plus d'un cinquième des missions de service civique sont rompues de manière anticipée. Ce qui fait beaucoup. Pourquoi autant d'interruptions ? Le service civique propose aux

La pauvreté : fatalité française ?

15-07-2025

"Il n'y avait jamais eu autant de pauvres en France, ni un tel écart de ressources entre les catégories les plus aisées et les plus défavorisées." Bien sûr, l'intérêt de cette

L'appel à projets : le faux ami des associations

08-07-2025

Un appel à projets public (AAP) ou privé, est une procédure de financement par sélection de projets. Un organisme public ou privé peut monter un appel à projets dans le cadre

Comment renforcer le lien social ?

01-07-2025

C'est une bonne question que pose le titre de cet article. Oui, comment renforcer le lien social fort distendu depuis les 15 dernières années ? Un proche du président Macron,

Observatoire citoyen de la marchandisation des associations 2025

24-06-2025

L'Observatoire citoyen de la "marchandisation des associations" publie son deuxième rapport qui met en avant les moyens disponibles pour entamer la "démarchandisation des

Une histoire de poissons volants

17-06-2025

On appelle les poissons volants "exocet". Son nom a été donné à un missile français bien connu car, comme ce poisson, il vole au ras de l'eau et a coulé le destroyer britannique

Comment réunir les conditions de délégation de pouvoirs dans une association ?

10-06-2025

Une délégation de pouvoirs est l'acte par lequel une personne dite le délégant, transfère à une autre personne appelée le délégataire, une partie de ses pouvoirs. Le délégataire

Découvrir 10 autres articles
Un peu d'ESS dans nos associations

Santé financière des associations : enquête nationale volet 2

16-09-2025

Du 19 février au 12 mars 2025, le Mouvement Associatif a lancé le volet 1 de sa grande enquête : "santé financière de votre association". Le constat était pour le moins alarmant.

Quand trop, c'est trop ça ne tient plus

09-09-2025

La présidente du Mouvement associatif, Claire Thoury, a appelé, par courrier en date du 3 septembre, les associations à se mobiliser dans un mouvement de protestation prévu pour

Pour une vraie politique des quartiers prioritaires de nos villes

02-09-2025

L'égalité ou plutôt l'équité républicaine vise à réduire, via sa politique de la ville, l'une des manifestations les plus insupportables pour la solidarité républicaine : celle

La contribution des associations à l'intérêt général dans un contexte concurrentiel

26-08-2025

La doctrine fiscale donne une grille d'analyse de l'intérêt général qui est devenue l'unique point de repère, l'alpha et l'oméga de la vie associative. Et pourtant, il n'y a pas

On ne touchera pas à la réduction d'impôts sur les dons aux associations

15-07-2025

En fait, la phrase exacte est "Le gouvernement ne touchera pas à la réduction d'impôts sur les dons aux associations d'utilité publique dans le prochain budget." Oui... Et les

Soutenir et encourager la contribution des associations à l'intérêt général

08-07-2025

Dans le contexte économique, social et écologique difficile que nous traversons, le Haut Conseil à la Vie Associative semble être le seul à garder le cap et à être force de

Observatoire des vacances et des loisirs des enfants

01-07-2025

L'Observatoire des vacances et des loisirs des enfants (OVLEJ) a fait le choix de mettre en oeuvre une nouvelle étude permettant de prendre en compte les freins et leviers à

2025 : 20ème édition de la La France bénévole

24-06-2025

Cette 20ème édition de "La France Bénévole" ne concerne pas l'ancienne ministre des sports, Amélie Oudéa-Castéra, qui réclame 9 000 euros bruts par mois pour être à la tête du

La 6ème Edition du Baromètre du Bénévolat se veut un peu trop rassurante

17-06-2025

Selon le 6ème Baromètre du Bénévolat publié par France Bénévolat, les bénévoles associatifs seraient moins nombreux, mais plus jeunes et plus investis. Je veux bien le croire,

ESS : le dernier kilomètre de l'intérêt général

10-06-2025

L'économie sociale et solidaire est un modèle à part dans l'économie française qui rassemble 14 % de l'emploi salarié privé au travers des associations, coopératives, fondations,

Découvrir 10 autres articles
Abonnez-vous à Lettrasso+