Toujours se méfier de l'algorithme

23-05-2023 SOCIETE LIBRE
Modérer un forum de commentaires sur Internet est un véritable sport de combat pour qui veut éviter de se retrouver avec des messages à connotation raciste, antisémite ou homophobe. Des milliards de mains sur des millions de claviers et toujours rien de comparable avec Shakespeare... aurait pu dire Pierre Dac. Est-ce à cause de cette réflexion que Google Alphabet a souhaité mettre en ligne le service Perspective ?

Ainsi le géant de l'internet souhaite détecter la haine sur les réseaux sociaux et nous en prévenir avant qu'elle ne se répande ?

C'est gentil à lui surtout qu'il entend mettre gratuitement cet outil au service des sites qui en feront la demande. Merci à Google donc, de nous aider à traquer l'insulte et à nous éviter de nous abîmer la vue sur des lignes de haine. Parfois si féroce que l'on éloigne le regard de l'écran pour ne pas en être aspergé. Ainsi, le programme nous signalera automatiquement le fiel suintant et l'insulte féroce en évaluant leur niveau de toxicité supposée. Merci qui ?

Bon prince, notre gentil géant vert nous donne même une adresse (1) (en anglais) où il est loisible de tester l'engin. En totale transparence, Google nous explique que le service est en période de test et qu'il ne faut pas s'attendre à des miracles. Il nous indique même un article de David Auerbach (un ancien de Google devenu journaliste) qui a testé l'outil avec un succès mitigé.

Jugez par vous-même (test de David Auerbach) :
> "Ce commentaire est très toxique" = 68% de toxicité,
> "Je t'adore enfoiré. Bon anniversaire" = 93% de toxicité,
> "Tu n'es pas raciste" = 77% de toxicité,
> "Les Juifs sont des humains" = 72% de toxicité,
> "Les Juifs ne sont pas des humains" = 62% de toxicité,
> "Hitler n'était pas antisémite" = 53 % de toxicité,
> "Certaines races sont inférieures à d'autres" = 18% de toxicité,
> "Rares sont les musulmans qui sont une menace" = 79% de toxicité.

Comme nous sommes très taquins, nous avons un peu titillé l'outil avec des suggestions très franco-françaises. Ainsi, dans l'ordre, nous lui avons demandé son avis sur :
> "Emmanuel Macron est honnête" = 28% de toxicité,
> "Emmanuel Macron est malhonnête" = 15% de toxicité,
> "Emmanuel Macron est un homme politique" = 23% de toxicité,
> "Emmanuel Macron est président de la république" = 66% de toxicité.

Incroyable, non ? Serait-il possible que... Nous avons immédiatement testé :
>"Emmanuel Macron" = 86% de toxicité.

Soit la machine n'est pas encore au point, soit ses concepteurs l'ont doté d'une âme sondagière... Google nous explique que cette machine abrite un programme qui repose sur un algorithme qui apprend en faisant. Elle est donc en mode apprentissage. Un communiqué des ingénieurs nous apprend que le programme était naissant, "qu'il n'était pas encore d'un usage optimal, qu'il se nourrirait des exemples qu'il aurait à traiter, des corrections humaines et que ce n'est qu'avec le temps qu'il deviendrait vraiment opérationnel, et efficace."

Gentil à eux de nous prévenir... Sauf que le site a été créé, selon WhoIs, le 15-02-2017. Un peu vieux pour du neuf. Pour un algorithme, trouver des mots licencieux est un jeu d'enfant. Les repérer dans une phrase également. Mais lorsque la phrase dit par exemple : "Je t'adore enfoiré. Bon anniversaire", son patinage n'est pas seulement artistique. Cela lui demande une approche globale qui tient sur l'appel au contexte.

Ainsi, la simple phrase : "Je t'adore enfoiré." est incompréhensible à un algorithme chargé de repérer les injures. Comment lui expliquer que le mot enfoiré est bien une insulte mais qu'un comique en a fait une apostrophe aimable et amicale ? Comment lui apprendre qu'un mot a une histoire ? Comment lui faire aborder l'art de la rhétorique ?

La rhétorique, utilisée pour convaincre, séduire, impressionner et transmettre une vision du monde va-t-elle devoir disparaître pour permettre aux machines de nous comprendre plus facilement ? De nous classer aussi...

Ainsi, il est plus facile de nous cerner avec ce que l'on aime que de nous empêcher avec ce que l'on dit. Au fond, c'est rassurant... Et c'est ainsi que notre titre : "Toujours se méfier de l'algorithme" recueille 78% de toxicité. Le plus drôle, c'est que le traducteur de Google, qui est aussi une machine en but au sens des mots, l'a traduit en "Always be wary of the algorithm". Ce qui donne, en retraduction : "Méfiez-vous toujours de l'algorithme", ce qui n'est pas tout à fait la même chose. Mais on ne va pas chipoter avec un algorithme...

En savoir plus
(1) Utiliser l'apprentissage automatique pour réduire la toxicité en ligne



Depuis 1999 au service des associations
Jurisprudence, décrets, lois, etc.

Au secours, les salariés ont pris le pouvoir au sein de l'association

14-01-2025

Au secours, les salariés ont pris le pouvoir au sein de l'association ! Et aussi paradoxal que cela puisse paraître, cette situation est bien plus courante que l'on ne croit dans

Constitutionnalité du périmètre des droits reconnus aux associations

14-01-2025

Une question prioritaire de constitutionnalité (QPC) permet de contester, lors d'un procès, l'application d'une loi que vous estimez contraire aux droits et libertés garantis par

Panorama associatif numéro 117 : janvier 2025

14-01-2025

Le Panorama associatif de Loi1901 a pour objectif de vous détailler plusieurs mesures qui ne peuvent pas faire l'objet d'un article complet, à l'unité, car trop courtes. Au

Savoir assurer une bonne gestion des excédents de trésorerie d'une association

07-01-2025

En ce début d'année 2025, la situation financière des associations ne s'arrange pas. Ainsi, le titre de cet article doit passer pour une provocation. Dans leur majorité, les

Attention à la responsabilité civile du club et de la fédération sportive

07-01-2025

Que se passe-t-il en cas de manquement à l'obligation de sécurité par l'entraîneur salarié d'une association ? Qui est responsable ? Jusqu'où peut aller la chaîne des

Ne pas confondre le rescrit mécénat avec le rescrit fiscalité

07-01-2025

Les associations peuvent utiliser les procédures de rescrits fiscaux pour obtenir des réponses opposables de l'administration fiscale. Le rescrit "mécénat" permet à une structure

Transfert de contrat de travail entre association et structure de droit public

02-01-2025

Le transfert de contrat de travail s'effectue lors du changement de la situation juridique d'une association ou d'une entreprise. Encadré par les articles L1224-1 et L1224-2 du

Panorama associatif numéro 116 : janvier 2025

02-01-2025

Le Panorama associatif de Loi1901 a pour objectif de vous détailler plusieurs mesures qui ne peuvent pas faire l'objet d'un article complet, à l'unité, car trop courtes. Au

Les associations d'Alsace-Moselle ont enfin leur propre guichet

02-01-2025

L'Alsace-Moselle est un territoire qui concentre de nombreuses exceptions juridiques et réglementaires pour des raisons historiques. Par exemple, les associations locales sont

Spectacle vivant : choisir les bons statuts pour bien exercer

17-12-2024

Le statut juridique adapté à l'exercice d'une activité professionnelle dans le secteur du spectacle vivant ne se détermine pas a priori. Il découle tout simplement de la nature de

Découvrir 10 autres articles
La société dans tous ses états

Fonds de dotation : opération grand ménage en cours ?

14-01-2025

Selon l'article 140 de la loi 2008-776 du 4 août 2008, "Le fonds de dotation est une personne morale de droit privé à but non lucratif qui reçoit et gère, en les capitalisant, des

Le partage de la valeur dans le secteur associatif au 1er janvier 2025

07-01-2025

Depuis le 1er janvier 2025, la loi 2023-1107 du 29 novembre 2023 (1) transpose l'accord national interprofessionnel (ANI) sur le partage de la valeur en entreprise (conclu en

Associations et fondations reconnues d'utilité publique : du nouveau pour 2025

02-01-2025

Les associations reconnues d'utilité publique (ARUP), les fondations reconnues d'utilité publique (FRUP), les fonds de dotation et les fondations d'entreprise vont devoir passer

Droits sociaux : le patrimoine de ceux qui n'en ont pas

17-12-2024

Il n'existe pas de définition reconnue et acceptée de la notion de droits sociaux. Mais on peut les définir comme l'ensemble des droits dont bénéficie un citoyen dans ses

On va finir par croire que la lutte contre la corruption est gênante

10-12-2024

L'article 2-23 du code de procédure pénale dispose que : "Toute association agréée déclarée depuis au moins cinq ans à la date de la constitution de partie civile, se proposant

Organismes sans but lucratif et les cryptomonnaies

03-12-2024

Le rapprochement des organismes sans but lucratif avec l'univers de la blockchain et des cryptomonnaies ne va pas naturellement de soi, c'est le moins que l'on puisse dire. Et

La branche du sport amateur au rapport

26-11-2024

Ce rapport (1) réalisé par l'Afdas compile les principaux résultats obtenus sur les 5 volets prévus dans le cahier des charges de l'étude : économique, social, santé et protection

Comme un plan social à bas bruit

12-11-2024

Si le gouvernement refuse les 472 amendements déposés par les oppositions pour le budget 2025 et revient au texte initial avec un passage en force par 49.3, le secteur de

Contre la pauvreté, agir coûte moins cher que de ne rien faire

05-11-2024

La pauvreté coûte un "pognon de dingue" disait le 12 juin 2018, le président Macron à ses conseillers et rapidement "fuité" sur @X, histoire de faire le buzz et de préparer les

De la subvention à la commande publique : fragiles associations

29-10-2024

Les modèles socio-économiques des associations ont fait, par le passé, l'objet de débats importants. Mais aujourd'hui, elles semblent n'avoir que peu de place dans la Startup

Découvrir 10 autres articles
Un peu d'ESS dans nos associations

ESS : le CESE au rapport

14-01-2025

Le Conseil économique, social et environnemental (CESE) vient de publier son rapport annuel 2024. Dirigé par Claire Thoury, la présidente du Mouvement associatif, cette édition

Comment récompenser ses bénévoles en toute légalité ?

07-01-2025

La gestion d'une association implique un investissement humain très important. Gérer les salariés est somme toute plus facile que de récompenser les bénévoles. Les premiers sont

Secteur sanitaire et social : l'ESS en bonne place

02-01-2025

Le secteur sanitaire et social compte 136 648 établissements dont 13 052 établissements publics, 84 718 établissements privés sont à but lucratif et 38 878 établissements privés

Transition écologique : où en sont les associations ?

17-12-2024

Pour aborder le plus sereinement possible ce sujet, voici une brève définition (1) de ce que veut dire la transition écologique : "un processus global qui vise à modifier nos

Rapport : Le soutien de l'État en matière de vie associative

10-12-2024

Quand l'Inspection générale de l'éducation, du sport et de la recherche (IGÉSR) publie un rapport, c'est toujours à la fois novateur et factuel. Et la dernière publication "Le

Est-ce ainsi que les hommes vivent ?

03-12-2024

J'ai emprunté le titre de cet article à un poème d'Aragon mis en musique par Léo Ferré. Pourquoi cet emprunt ? Pour illustrer au plus près, une réalité devenue insoutenable dans

Faire plus avec moins : le nouveau mantra des pouvoirs publics aux associations

26-11-2024

Les associations sont, depuis toujours, en première ligne pour répondre aux besoins de nos concitoyens non couverts par l'État. En échange de cette implication, les pouvoirs

Et si on réinventait le système des subventions aux associations ?

19-11-2024

En septembre 2023, un collectif d'associations interpellait fermement la première ministre, Elisabeth Borne, avec un tonitruant "Le secteur associatif se meurt !". Au même

Quand la ruralité se réveillera

12-11-2024

Et si l'heure n'était plus à l'attentisme dans les territoires ruraux ? Les élus comme les acteurs associatifs ont lancé, il y a plusieurs années déjà, une solide réflexion autour

Le succès du service civique

05-11-2024

Alors que le SNU (Service National Universel) semble, à juste titre, vivre ses derniers jours, le Service Civique ne s'est jamais aussi bien porté. Créé par la loi du 10 mars

Découvrir 10 autres articles
Abonnez-vous à Lettrasso+