Toujours se méfier de l'algorithme

23-05-2023 SOCIETE LIBRE
Modérer un forum de commentaires sur Internet est un véritable sport de combat pour qui veut éviter de se retrouver avec des messages à connotation raciste, antisémite ou homophobe. Des milliards de mains sur des millions de claviers et toujours rien de comparable avec Shakespeare... aurait pu dire Pierre Dac. Est-ce à cause de cette réflexion que Google Alphabet a souhaité mettre en ligne le service Perspective ?

Ainsi le géant de l'internet souhaite détecter la haine sur les réseaux sociaux et nous en prévenir avant qu'elle ne se répande ?

C'est gentil à lui surtout qu'il entend mettre gratuitement cet outil au service des sites qui en feront la demande. Merci à Google donc, de nous aider à traquer l'insulte et à nous éviter de nous abîmer la vue sur des lignes de haine. Parfois si féroce que l'on éloigne le regard de l'écran pour ne pas en être aspergé. Ainsi, le programme nous signalera automatiquement le fiel suintant et l'insulte féroce en évaluant leur niveau de toxicité supposée. Merci qui ?

Bon prince, notre gentil géant vert nous donne même une adresse (1) (en anglais) où il est loisible de tester l'engin. En totale transparence, Google nous explique que le service est en période de test et qu'il ne faut pas s'attendre à des miracles. Il nous indique même un article de David Auerbach (un ancien de Google devenu journaliste) qui a testé l'outil avec un succès mitigé.

Jugez par vous-même (test de David Auerbach) :
> "Ce commentaire est très toxique" = 68% de toxicité,
> "Je t'adore enfoiré. Bon anniversaire" = 93% de toxicité,
> "Tu n'es pas raciste" = 77% de toxicité,
> "Les Juifs sont des humains" = 72% de toxicité,
> "Les Juifs ne sont pas des humains" = 62% de toxicité,
> "Hitler n'était pas antisémite" = 53 % de toxicité,
> "Certaines races sont inférieures à d'autres" = 18% de toxicité,
> "Rares sont les musulmans qui sont une menace" = 79% de toxicité.

Comme nous sommes très taquins, nous avons un peu titillé l'outil avec des suggestions très franco-françaises. Ainsi, dans l'ordre, nous lui avons demandé son avis sur :
> "Emmanuel Macron est honnête" = 28% de toxicité,
> "Emmanuel Macron est malhonnête" = 15% de toxicité,
> "Emmanuel Macron est un homme politique" = 23% de toxicité,
> "Emmanuel Macron est président de la république" = 66% de toxicité.

Incroyable, non ? Serait-il possible que... Nous avons immédiatement testé :
>"Emmanuel Macron" = 86% de toxicité.

Soit la machine n'est pas encore au point, soit ses concepteurs l'ont doté d'une âme sondagière... Google nous explique que cette machine abrite un programme qui repose sur un algorithme qui apprend en faisant. Elle est donc en mode apprentissage. Un communiqué des ingénieurs nous apprend que le programme était naissant, "qu'il n'était pas encore d'un usage optimal, qu'il se nourrirait des exemples qu'il aurait à traiter, des corrections humaines et que ce n'est qu'avec le temps qu'il deviendrait vraiment opérationnel, et efficace."

Gentil à eux de nous prévenir... Sauf que le site a été créé, selon WhoIs, le 15-02-2017. Un peu vieux pour du neuf. Pour un algorithme, trouver des mots licencieux est un jeu d'enfant. Les repérer dans une phrase également. Mais lorsque la phrase dit par exemple : "Je t'adore enfoiré. Bon anniversaire", son patinage n'est pas seulement artistique. Cela lui demande une approche globale qui tient sur l'appel au contexte.

Ainsi, la simple phrase : "Je t'adore enfoiré." est incompréhensible à un algorithme chargé de repérer les injures. Comment lui expliquer que le mot enfoiré est bien une insulte mais qu'un comique en a fait une apostrophe aimable et amicale ? Comment lui apprendre qu'un mot a une histoire ? Comment lui faire aborder l'art de la rhétorique ?

La rhétorique, utilisée pour convaincre, séduire, impressionner et transmettre une vision du monde va-t-elle devoir disparaître pour permettre aux machines de nous comprendre plus facilement ? De nous classer aussi...

Ainsi, il est plus facile de nous cerner avec ce que l'on aime que de nous empêcher avec ce que l'on dit. Au fond, c'est rassurant... Et c'est ainsi que notre titre : "Toujours se méfier de l'algorithme" recueille 78% de toxicité. Le plus drôle, c'est que le traducteur de Google, qui est aussi une machine en but au sens des mots, l'a traduit en "Always be wary of the algorithm". Ce qui donne, en retraduction : "Méfiez-vous toujours de l'algorithme", ce qui n'est pas tout à fait la même chose. Mais on ne va pas chipoter avec un algorithme...

En savoir plus
(1) Utiliser l'apprentissage automatique pour réduire la toxicité en ligne



Depuis 1999 au service des associations
Jurisprudence, décrets, lois, etc.

Panorama associatif numéro 103 : début juin 2024

11-06-2024

Le Panorama associatif de Loi1901 a pour objectif de vous détailler plusieurs mesures qui ne peuvent pas faire l'objet d'un article complet, à l'unité, car trop courtes. Au

Licenciement d'un salarié protégé au sein d'une association

11-06-2024

Le licenciement d'un salarié protégé, au sein d'une association comme dans une entreprise, suppose la délivrance préalable d'une autorisation administrative par l'inspection du

Tout savoir sur la déclaration des bénéficiaires effectifs des associations

11-06-2024

Depuis la loi du 10 avril 2024 (1), dite loi "DDADUE" (Diverses Dispositions d'Adaptation au Droit de l'Union Européenne en matière d'économie, de finances, de transition

Gestion de fait : comment éviter la faute ?

04-06-2024

La définition d'une gestion de fait se traduit comme le maniement non autorisé de deniers publics ou assimilés. En d'autres termes, toute personne, qui n'a pas la qualité de

Motif économique de licenciement : quid de la non lucrativité ?

04-06-2024

En matière de licenciement économique, les difficultés invoquées par l'employeur doivent être réelles et sérieuses pour constituer un motif économique légitime de licenciement. Il

Activité d'intérêt général, quelle structure choisir : association ou société à mission ?

04-06-2024

Une société à mission est une "qualité" attribuée aux sociétés qui intègrent des objectifs sociaux dans leurs statuts (loi Pacte du 22 mai 2019). La société à mission se donne

Panorama associatif numéro 102 : fin mai 2024

28-05-2024

Le Panorama associatif de Loi1901 a pour objectif de vous détailler plusieurs mesures qui ne peuvent pas faire l'objet d'un article complet, à l'unité, car trop courtes. Au

Acquisition de congés payés pendant un arrêt maladie : la loi

28-05-2024

Un salarié a droit à 2.5 jours de congés payés par mois de travail effectif chez le même employeur, quel que soit son contrat de travail (CDI, CDD, contrat d'intérim) et qu'il

Subvention : quand le lucratif croise le non lucratif

28-05-2024

Selon la loi ESS du 31 juillet 2014, "Constituent des subventions les contributions facultatives de toute nature, justifiées par un intérêt général et destinées à la réalisation

Associations : deux guides pour vous aider à vous financer

21-05-2024

La recherche de financements est une part importante du temps destiné à élaborer un projet artistique. Période d'autant plus difficile que les généreux mécènes ne sont pas légion.

Découvrir 10 autres articles
La société dans tous ses états

La dite solution d'une dissolution

11-06-2024

Nous recevons beaucoup de courriers de nos lecteurs. Souvent, il faut bien le reconnaître, c'est pour nous morigéner sur certaines de nos prises de position. Parfois, on nous

1 an de nettoyage social avant les Jeux Olympiques de Paris 2024

04-06-2024

Le 31 octobre 2023, nous avons publié un article intitulé : "Le revers de la médaille". Il s'agissait alors de relayer le cri d'alarme lancé par Médecins du Monde et plus de 70

Dérives sectaires : le renforcement du rôle des associations

28-05-2024

La loi n° 2024-420 du 10 mai 2024 (1) visant à renforcer la lutte contre les dérives sectaires et à améliorer l'accompagnement des victimes, a été publiée au Journal Officiel le

C'est pour la bonne cause

21-05-2024

Le sociologue Simon Cottin-Marx a publié, en septembre 2021, un livre au titre évocateur : "C'est pour la bonne cause" (1). Un ouvrage destiné à penser le travail associatif avec

Protection de l'enfance : hébergement, mentorat, parrainage et mensonges

14-05-2024

Depuis l'entrée en vigueur de la loi du 7 février 2022, dite loi "Taquet", le parrainage et le mentorat sont enfin reconnus et font maintenant partie intégrante du dispositif de

Transition écologique : le HCVA s'adresse aux associations

07-05-2024

Le Haut Conseil à la vie associative (HCVA) est une instance de consultation placée auprès du Premier ministre. Il est saisi de tous les projets de lois et de décrets concernant

Cour des comptes : plus de transparence dans la générosité publique

30-04-2024

Le contrôle de la Cour des comptes est principalement fondé sur le fait que les donateurs aux organismes concernés bénéficient d'un avantage fiscal, que celui-ci soit obtenu dans

La Défenseure des droits est inquiète de l'état de notre démocratie

23-04-2024

Dans son rapport annuel (1) d'activité 2023, la Défenseure des droits se montre très inquiète de la banalisation des atteintes aux droits et libertés. Elle constate une hausse

Pour faire des économies, allez au bistrot

16-04-2024

Faire des économies en allant au comptoir de votre bistrot préféré ? C'est possible grâce au concept du club-épargne en Moselle. Le club d'épargne est une association régie par

Pour le Sénat, la loi séparatisme doit encore prouver son utilité

09-04-2024

Cette loi est connue sous plusieurs noms. Pour le grand public et les associations, c'est la loi "séparatisme". Dans les administrations, on trouve de plus en plus souvent

Découvrir 10 autres articles
Un peu d'ESS dans nos associations

Financement des associations : le cri d'alarme du CESE

11-06-2024

Le 28 mai 2024, le Conseil économique, social et environnemental (CESE) a adopté à l'unanimité un avis qui alerte (c'est un euphémisme) sur la situation critique des associations.

Certificat de formation à la gestion associative : l'indispensable Sésame

04-06-2024

C'est en 2005, que l'ex Conseil National de la Jeunesse devenu aujourd'hui Conseil d'orientation des politiques de jeunesse (COJ) a souhaité mettre en place une formation

Association syndicale libre : le respect des statuts avant tout

28-05-2024

Bien qu'elles répondent aux mêmes objets que les autres associations syndicales de propriétaires, les associations syndicales libres (ASL) ont un régime de déclaration très proche

La finance solidaire au service des associations

21-05-2024

Qu'est-ce que c'est que la "Finance Solidaire" ? La finance solidaire relie les épargnants qui cherchent à donner du sens à leur argent à des entreprises et associations dont

Faut-il partager la valeur dans les structures de l'ESS ?

14-05-2024

La loi 2023-1107 du 29 novembre 2023 transpose l'accord national interprofessionnel (ANI) sur le partage de la valeur en entreprise (conclu en février 2023 entre les syndicats et

Un guide mécénat pour prévenir les risques de corruption

07-05-2024

L'Agence française anticorruption (AFA) est un service à compétence nationale créé par la loi du 9 décembre 2016 relative à la transparence, à la lutte contre la corruption et à

CESE : Evolution des modèles de financement des associations

30-04-2024

La commission Economie Finances du CESE s'est saisie d'un projet d'avis sur le financement du modèle associatif. Dans ce cadre a été lancé un questionnaire à l'attention des

Une nouvelle loi sur la vie associative en toute discrétion

23-04-2024

Au mois de décembre 2022 avait été mise en ligne une plateforme chargée de recueillir les doléances des responsables associatifs dans le cadre d'une "Grande consultation

Panorama de l'accès à l'emploi en France

16-04-2024

Selon l'INSEE, les personnes en emploi au sens du Bureau international du travail (BIT) (actifs occupés) sont celles âgées de 15 ans ou plus ayant travaillé (ne serait‑ce

Service civique et chômage des jeunes : des variations entre départements

09-04-2024

Le service civique joue un rôle important dans le dispositif de l'insertion professionnelle. Qui l'eût cru ? Une nouvelle étude de l'Institut national de la jeunesse et de

Découvrir 10 autres articles
Abonnez-vous à Lettrasso+