23-05-2023  SOCIETE LIBRE

Toujours se méfier de l'algorithme

Modérer un forum de commentaires sur Internet est un véritable sport de combat pour qui veut éviter de se retrouver avec des messages à connotation raciste, antisémite ou homophobe. Des milliards de mains sur des millions de claviers et toujours rien de comparable avec Shakespeare... aurait pu dire Pierre Dac. Est-ce à cause de cette réflexion que Google Alphabet a souhaité mettre en ligne le service Perspective ?

Ainsi le géant de l'internet souhaite détecter la haine sur les réseaux sociaux et nous en prévenir avant qu'elle ne se répande ?

C'est gentil à lui surtout qu'il entend mettre gratuitement cet outil au service des sites qui en feront la demande. Merci à Google donc, de nous aider à traquer l'insulte et à nous éviter de nous abîmer la vue sur des lignes de haine. Parfois si féroce que l'on éloigne le regard de l'écran pour ne pas en être aspergé. Ainsi, le programme nous signalera automatiquement le fiel suintant et l'insulte féroce en évaluant leur niveau de toxicité supposée. Merci qui ?

Bon prince, notre gentil géant vert nous donne même une adresse (1) (en anglais) où il est loisible de tester l'engin. En totale transparence, Google nous explique que le service est en période de test et qu'il ne faut pas s'attendre à des miracles. Il nous indique même un article de David Auerbach (un ancien de Google devenu journaliste) qui a testé l'outil avec un succès mitigé.

Jugez par vous-même (test de David Auerbach) :
> "Ce commentaire est très toxique" = 68% de toxicité,
> "Je t'adore enfoiré. Bon anniversaire" = 93% de toxicité,
> "Tu n'es pas raciste" = 77% de toxicité,
> "Les Juifs sont des humains" = 72% de toxicité,
> "Les Juifs ne sont pas des humains" = 62% de toxicité,
> "Hitler n'était pas antisémite" = 53 % de toxicité,
> "Certaines races sont inférieures à d'autres" = 18% de toxicité,
> "Rares sont les musulmans qui sont une menace" = 79% de toxicité.

Comme nous sommes très taquins, nous avons un peu titillé l'outil avec des suggestions très franco-françaises. Ainsi, dans l'ordre, nous lui avons demandé son avis sur :
> "Emmanuel Macron est honnête" = 28% de toxicité,
> "Emmanuel Macron est malhonnête" = 15% de toxicité,
> "Emmanuel Macron est un homme politique" = 23% de toxicité,
> "Emmanuel Macron est président de la république" = 66% de toxicité.

Incroyable, non ? Serait-il possible que... Nous avons immédiatement testé :
>"Emmanuel Macron" = 86% de toxicité.

Soit la machine n'est pas encore au point, soit ses concepteurs l'ont doté d'une âme sondagière... Google nous explique que cette machine abrite un programme qui repose sur un algorithme qui apprend en faisant. Elle est donc en mode apprentissage. Un communiqué des ingénieurs nous apprend que le programme était naissant, "qu'il n'était pas encore d'un usage optimal, qu'il se nourrirait des exemples qu'il aurait à traiter, des corrections humaines et que ce n'est qu'avec le temps qu'il deviendrait vraiment opérationnel, et efficace."

Gentil à eux de nous prévenir... Sauf que le site a été créé, selon WhoIs, le 15-02-2017. Un peu vieux pour du neuf. Pour un algorithme, trouver des mots licencieux est un jeu d'enfant. Les repérer dans une phrase également. Mais lorsque la phrase dit par exemple : "Je t'adore enfoiré. Bon anniversaire", son patinage n'est pas seulement artistique. Cela lui demande une approche globale qui tient sur l'appel au contexte.

Ainsi, la simple phrase : "Je t'adore enfoiré." est incompréhensible à un algorithme chargé de repérer les injures. Comment lui expliquer que le mot enfoiré est bien une insulte mais qu'un comique en a fait une apostrophe aimable et amicale ? Comment lui apprendre qu'un mot a une histoire ? Comment lui faire aborder l'art de la rhétorique ?

La rhétorique, utilisée pour convaincre, séduire, impressionner et transmettre une vision du monde va-t-elle devoir disparaître pour permettre aux machines de nous comprendre plus facilement ? De nous classer aussi...

Ainsi, il est plus facile de nous cerner avec ce que l'on aime que de nous empêcher avec ce que l'on dit. Au fond, c'est rassurant... Et c'est ainsi que notre titre : "Toujours se méfier de l'algorithme" recueille 78% de toxicité. Le plus drôle, c'est que le traducteur de Google, qui est aussi une machine en but au sens des mots, l'a traduit en "Always be wary of the algorithm". Ce qui donne, en retraduction : "Méfiez-vous toujours de l'algorithme", ce qui n'est pas tout à fait la même chose. Mais on ne va pas chipoter avec un algorithme...

En savoir plus
(1) Utiliser l'apprentissage automatique pour réduire la toxicité en ligne

Voici le tag Internet à sélectionner, à copier et à coller sans transformation dans la page du site où vous allez utiliser cet article. D'avance merci.

Sélection du texte ci-dessous
Toujours se méfier de l'algorithme 
Modérer un forum de commentaires sur Internet est un véritable sport de combat pour qui veut éviter de se retrouver avec des messages à connotation raciste, antisémite ou homophobe. Des milliards de mains sur des ...  <a href="https://www.loi1901.com/intranet/a_news/index_news.php?Id=2724" target="_blank">Lire la suite sur Loi1901.com</a>

Découvrir 10 autres articles



Depuis 1999 au service des associations
Jurisprudence, décrets, lois, etc.

Offrir des cadeaux à vos bénévoles pour les remercier

03-12-2024

Par principe, l'administration fiscale considère systématiquement que la distribution de cadeaux par une association à ses membres s'apparente à un partage de bénéfices interdit.

Responsabilité financière des dirigeants d'une association

03-12-2024

La responsabilité financière des dirigeants d'une association a toujours fait l'objet d'une certaine mansuétude, du moins dans le cas de petites structures, de la part de la

Dissolution administrative d'une association

03-12-2024

Depuis l'application de la loi du 24 août 2021 dite "séparatisme" et la signature du fumeux "contrat républicain", les dissolutions administratives augmentent plus vite que

Une mairie peut-elle encore prêter de l'argent à une association ?

26-11-2024

De nombreuses mesures récentes ont bouleversé les relations entre les associations et les collectivités territoriales. Ou encore les différentes lois de réforme territoriale

Défense de l'environnement : la justice montre sa préférence

26-11-2024

Les associations agréées pour la défense de l'environnement et leurs satellites sont en première ligne pour tenter de faire respecter le droit en matière de pollution et de mise

Respect d'une assemblée générale, quand la Cour de cassation s'en mêle

26-11-2024

Les règles de convocation d'une Assemblée Générale sont généralement prévues dans les statuts juridiques de l'association. La loi de 1901 et son décret d'application laissent une

De la mission bénévole à la prestation de service

19-11-2024

La prestation de services n'a pas pour objet de transférer la propriété d'un bien matériel à la différence de la vente d'un produit. L'association ne reçoit rien et ne transmet

De l'équilibre des comptes pour une demande de subvention

19-11-2024

Les comptes d'une association doivent-ils être équilibrés pour demander une subvention ? En fait, la réponse est beaucoup plus complexe qu'il n'y parait. Légalement, rien ne

Accepter la présidence d'une association : soyez prudent

19-11-2024

Devenir président d'une association, quelle que soit sa taille, est tout à la fois un honneur et une charge. Les dispositions légales et statutaires qui encadrent les obligations

Panorama associatif numéro 113 : novembre 2024

12-11-2024

Le Panorama associatif de Loi1901 a pour objectif de vous détailler plusieurs mesures qui ne peuvent pas faire l'objet d'un article complet, à l'unité, car trop courtes. Au

Découvrir 10 autres articles
La société dans tous ses états

Organismes sans but lucratif et les cryptomonnaies

03-12-2024

Le rapprochement des organismes sans but lucratif avec l'univers de la blockchain et des cryptomonnaies ne va pas naturellement de soi, c'est le moins que l'on puisse dire. Et

La branche du sport amateur au rapport

26-11-2024

Ce rapport (1) réalisé par l'Afdas compile les principaux résultats obtenus sur les 5 volets prévus dans le cahier des charges de l'étude : économique, social, santé et protection

Comment sortir de la crise démocratique : RAEF 2024 ?

19-11-2024

Le Rapport Annuel sur l'Etat de la France 2024 du CESE (1) tente de mettre en lumière les liens entre inégalités sociales et démocratie. Même si l'on peut noter un léger recul de

Comme un plan social à bas bruit

12-11-2024

Si le gouvernement refuse les 472 amendements déposés par les oppositions pour le budget 2025 et revient au texte initial avec un passage en force par 49.3, le secteur de

Contre la pauvreté, agir coûte moins cher que de ne rien faire

05-11-2024

La pauvreté coûte un "pognon de dingue" disait le 12 juin 2018, le président Macron à ses conseillers et rapidement "fuité" sur @X, histoire de faire le buzz et de préparer les

De la subvention à la commande publique : fragiles associations

29-10-2024

Les modèles socio-économiques des associations ont fait, par le passé, l'objet de débats importants. Mais aujourd'hui, elles semblent n'avoir que peu de place dans la Startup

Les faibles inégalités salariales au sein du secteur associatif

22-10-2024

Selon le baromètre des salaires de l'ESS, dans son édition 2024, le secteur associatif est marqué par de faibles inégalités salariales. Ce qui est plutôt remarquable. En revanche,

Le Service national universel ciblé par la Cour des comptes

15-10-2024

Le SNU, qui émarge au budget "jeunesse et vie associative", est expérimenté depuis 2019 pour une généralisation à tous les jeunes de 15 à 17 ans d'ici 2026. Mais la Cour des

Les dérives sectaires ne se reposent jamais

08-10-2024

Il n'y a pas de définition légale de la dérive sectaire. Mais la MIVILUDES (Mission interministérielle de vigilance et de lutte contre les dérives sectaires) a élaboré une

L'association Anticor retrouve enfin son agrément

01-10-2024

Après plus d'un an de lutte devant la justice, Anticor a enfin retrouvé son agrément anticorruption. C'est par un simple arrêté que le 5 septembre 2024, Gabriel Attal a renouvelé

Découvrir 10 autres articles
Un peu d'ESS dans nos associations

Est-ce ainsi que les hommes vivent ?

03-12-2024

J'ai emprunté le titre de cet article à un poème d'Aragon mis en musique par Léo Ferré. Pourquoi cet emprunt ? Pour illustrer au plus près, une réalité devenue insoutenable dans

Faire plus avec moins : le nouveau mantra des pouvoirs publics aux associations

26-11-2024

Les associations sont, depuis toujours, en première ligne pour répondre aux besoins de nos concitoyens non couverts par l'État. En échange de cette implication, les pouvoirs

Et si on réinventait le système des subventions aux associations ?

19-11-2024

En septembre 2023, un collectif d'associations interpellait fermement la première ministre, Elisabeth Borne, avec un tonitruant "Le secteur associatif se meurt !". Au même

Quand la ruralité se réveillera

12-11-2024

Et si l'heure n'était plus à l'attentisme dans les territoires ruraux ? Les élus comme les acteurs associatifs ont lancé, il y a plusieurs années déjà, une solide réflexion autour

Le succès du service civique

05-11-2024

Alors que le SNU (Service National Universel) semble, à juste titre, vivre ses derniers jours, le Service Civique ne s'est jamais aussi bien porté. Créé par la loi du 10 mars

Quand un accord collectif est remis en cause

29-10-2024

La nullité des conventions et accords collectifs de travail reste un contentieux rare et assez récent, ce qui s'explique, en partie, par l'objet traditionnel de ces actes qui est

Fonds de dotation : les temps changent

22-10-2024

Le fonds de dotation est un organisme dit de "mécénat". Il est destiné à collecter des dons pour aider une structure à but non lucratif à réaliser une oeuvre ou une mission

Programmation 2021-2027 des fonds européens : place de l'ESS

15-10-2024

Tous les sept ans, l'UE révise la stratégie d'attribution des fonds européens pour répondre aux nouveaux défis de l'Union européenne ainsi qu'aux enjeux des territoires et des

Loi ESS : une décennie de transformations pour un anniversaire en demi-teinte

08-10-2024

2014 - 2024, la loi du 31 juillet 2014 relative à l'Économie Sociale et Solidaire, dite Loi ESS, fête ses 10 ans. Portée par Benoît Hamon, alors ministre délégué chargé de

L'économie sociale et solidaire dispose de son ministère

01-10-2024

On ne connaît pas exactement la durée de vie du gouvernement Barnier. En revanche, nous pouvons saluer le fait que l'économie sociale et solidaire (ESS) retrouve un portefeuille

Découvrir 10 autres articles
Abonnez-vous à Lettrasso+