Toujours se méfier de l'algorithme

23-05-2023 SOCIETE LIBRE
Modérer un forum de commentaires sur Internet est un véritable sport de combat pour qui veut éviter de se retrouver avec des messages à connotation raciste, antisémite ou homophobe. Des milliards de mains sur des millions de claviers et toujours rien de comparable avec Shakespeare... aurait pu dire Pierre Dac. Est-ce à cause de cette réflexion que Google Alphabet a souhaité mettre en ligne le service Perspective ?

Ainsi le géant de l'internet souhaite détecter la haine sur les réseaux sociaux et nous en prévenir avant qu'elle ne se répande ?

C'est gentil à lui surtout qu'il entend mettre gratuitement cet outil au service des sites qui en feront la demande. Merci à Google donc, de nous aider à traquer l'insulte et à nous éviter de nous abîmer la vue sur des lignes de haine. Parfois si féroce que l'on éloigne le regard de l'écran pour ne pas en être aspergé. Ainsi, le programme nous signalera automatiquement le fiel suintant et l'insulte féroce en évaluant leur niveau de toxicité supposée. Merci qui ?

Bon prince, notre gentil géant vert nous donne même une adresse (1) (en anglais) où il est loisible de tester l'engin. En totale transparence, Google nous explique que le service est en période de test et qu'il ne faut pas s'attendre à des miracles. Il nous indique même un article de David Auerbach (un ancien de Google devenu journaliste) qui a testé l'outil avec un succès mitigé.

Jugez par vous-même (test de David Auerbach) :
> "Ce commentaire est très toxique" = 68% de toxicité,
> "Je t'adore enfoiré. Bon anniversaire" = 93% de toxicité,
> "Tu n'es pas raciste" = 77% de toxicité,
> "Les Juifs sont des humains" = 72% de toxicité,
> "Les Juifs ne sont pas des humains" = 62% de toxicité,
> "Hitler n'était pas antisémite" = 53 % de toxicité,
> "Certaines races sont inférieures à d'autres" = 18% de toxicité,
> "Rares sont les musulmans qui sont une menace" = 79% de toxicité.

Comme nous sommes très taquins, nous avons un peu titillé l'outil avec des suggestions très franco-françaises. Ainsi, dans l'ordre, nous lui avons demandé son avis sur :
> "Emmanuel Macron est honnête" = 28% de toxicité,
> "Emmanuel Macron est malhonnête" = 15% de toxicité,
> "Emmanuel Macron est un homme politique" = 23% de toxicité,
> "Emmanuel Macron est président de la république" = 66% de toxicité.

Incroyable, non ? Serait-il possible que... Nous avons immédiatement testé :
>"Emmanuel Macron" = 86% de toxicité.

Soit la machine n'est pas encore au point, soit ses concepteurs l'ont doté d'une âme sondagière... Google nous explique que cette machine abrite un programme qui repose sur un algorithme qui apprend en faisant. Elle est donc en mode apprentissage. Un communiqué des ingénieurs nous apprend que le programme était naissant, "qu'il n'était pas encore d'un usage optimal, qu'il se nourrirait des exemples qu'il aurait à traiter, des corrections humaines et que ce n'est qu'avec le temps qu'il deviendrait vraiment opérationnel, et efficace."

Gentil à eux de nous prévenir... Sauf que le site a été créé, selon WhoIs, le 15-02-2017. Un peu vieux pour du neuf. Pour un algorithme, trouver des mots licencieux est un jeu d'enfant. Les repérer dans une phrase également. Mais lorsque la phrase dit par exemple : "Je t'adore enfoiré. Bon anniversaire", son patinage n'est pas seulement artistique. Cela lui demande une approche globale qui tient sur l'appel au contexte.

Ainsi, la simple phrase : "Je t'adore enfoiré." est incompréhensible à un algorithme chargé de repérer les injures. Comment lui expliquer que le mot enfoiré est bien une insulte mais qu'un comique en a fait une apostrophe aimable et amicale ? Comment lui apprendre qu'un mot a une histoire ? Comment lui faire aborder l'art de la rhétorique ?

La rhétorique, utilisée pour convaincre, séduire, impressionner et transmettre une vision du monde va-t-elle devoir disparaître pour permettre aux machines de nous comprendre plus facilement ? De nous classer aussi...

Ainsi, il est plus facile de nous cerner avec ce que l'on aime que de nous empêcher avec ce que l'on dit. Au fond, c'est rassurant... Et c'est ainsi que notre titre : "Toujours se méfier de l'algorithme" recueille 78% de toxicité. Le plus drôle, c'est que le traducteur de Google, qui est aussi une machine en but au sens des mots, l'a traduit en "Always be wary of the algorithm". Ce qui donne, en retraduction : "Méfiez-vous toujours de l'algorithme", ce qui n'est pas tout à fait la même chose. Mais on ne va pas chipoter avec un algorithme...

En savoir plus
(1) Utiliser l'apprentissage automatique pour réduire la toxicité en ligne



Depuis 1999 au service des associations
Jurisprudence, décrets, lois, etc.

Procédure de rescrit fiscal : oui, c'est préférable

23-07-2024

Sur notre Forum Juridique, de très nombreuses associations nous demandent s'il faut ou non lancer une procédure de rescrit fiscal avant d'émettre des reçu fiscaux pour dons. Avec

Comment obtenir une VAEB ?

23-07-2024

La VAE pour Validation des Acquis de l'Expérience permet de transformer une expérience professionnelle en diplôme. Depuis la loi n° 2022-1598 du 21 décembre 2022, les critères

Conseil d'Etat versus association

23-07-2024

Le Conseil d'Etat est appelé de plus en plus souvent à trancher des litiges qui opposent l'administration à des associations. Les arrêts des Sages du Palais-Royal font, dans la

Le nouveau mode d'emploi complet de la subvention

16-07-2024

Une association déclarée peut bénéficier de subventions versées par l'État, par une collectivité territoriale ou par un établissement public. Certes, c'est de plus en plus

La gouvernance bénévole et l'activité salariée au sein des associations

16-07-2024

En France, entre 1,4 et 1,5 millions d'associations étaient en activité en 2022/2023. Parmi elles, 146 740 associations emploient 1,8 million de salariés, soit près d'un salarié

Panorama associatif numéro 105 : juillet 2024

16-07-2024

Le Panorama associatif de Loi1901 a pour objectif de vous détailler plusieurs mesures qui ne peuvent pas faire l'objet d'un article complet, à l'unité, car trop courtes. Au

Requalification d'un CDD en CDI : nouvelle jurisprudence

09-07-2024

Selon l'article L 1242-12 du Code du Travail (1), un contrat de travail à durée déterminée (CDD) doit être établi par écrit, faute de quoi il est réputé conclu pour une durée

Réduction d'impôt pour dons : la protection animale en question

09-07-2024

L'objet social d'une association ne suffit pas à lui conférer le statut d'organisme à caractère philanthropique. En d'autres termes, même si ses activités peuvent se concevoir

Action de groupe : nouvelle jurisprudence

09-07-2024

L'action de groupe est une procédure de poursuite collective qui permet aux victimes d'un préjudice identique, de la part d'une même entreprise, de se regrouper devant les

Une nouvelle jurisprudence pour les pièces comptables communicables

02-07-2024

La communication des documents relatifs aux comptes et aux subventions accordées aux associations se réfère à l'article 10 de la loi du 12 avril 2000 (1), et pour les documents

Découvrir 10 autres articles
La société dans tous ses états

Pour m'endormir, je compte les abonnés

23-07-2024

Oui, après 22 années d'existence, notre lettre d'information associative Lettrasso atteindra bientôt les 133 000 abonnés gratuits. Il n'en manque que cinq. Quand 132 995 personnes

Pecunia non olet

16-07-2024

L'empereur romain Vespasien, pour trouver un moyen rapide de renflouer les caisses de l'empire, se trouva dans l'obligation de lever différentes taxes dont une le fit passer à la

La Joconde est définitivement Française

09-07-2024

Par les temps qui courent, posséder la nationalité française peut aider. Alors qu'être double-national n'offre pas des garanties suffisantes, être porteur de notre carte

Descendre à une gare qui n'existe pas

02-07-2024

Il y a parfois, dans la vie, des petits plaisirs qui ne se refusent pas. L'été est enfin là. Un été pas encore trop chaud mais avec parfois quelques gouttes qui viennent nous

Elections législatives : Les acteurs de l'ESS lancent un cri d'alerte

25-06-2024

Fait rarissime, les acteurs de l'Economie Sociale et Solidaire, unanimes, lancent un cri d'alerte face à la menace que fait peser sur l'organisation de la vie civile, la montée de

Peut-on encore s'inscrire sur les listes électorales pour les législatives 2024 ?

18-06-2024

Les 30 juin et 7 juillet prochain auront lieu les élections législatives. Le délai extrêmement court entre la parution du décret 2024-527 du 9 juin 2024 portant convocation des

La dite solution d'une dissolution

11-06-2024

Nous recevons beaucoup de courriers de nos lecteurs. Souvent, il faut bien le reconnaître, c'est pour nous morigéner sur certaines de nos prises de position. Parfois, on nous

1 an de nettoyage social avant les Jeux Olympiques de Paris 2024

04-06-2024

Le 31 octobre 2023, nous avons publié un article intitulé : "Le revers de la médaille". Il s'agissait alors de relayer le cri d'alarme lancé par Médecins du Monde et plus de 70

Dérives sectaires : le renforcement du rôle des associations

28-05-2024

La loi n° 2024-420 du 10 mai 2024 (1) visant à renforcer la lutte contre les dérives sectaires et à améliorer l'accompagnement des victimes, a été publiée au Journal Officiel le

C'est pour la bonne cause

21-05-2024

Le sociologue Simon Cottin-Marx a publié, en septembre 2021, un livre au titre évocateur : "C'est pour la bonne cause" (1). Un ouvrage destiné à penser le travail associatif avec

Découvrir 10 autres articles
Un peu d'ESS dans nos associations

L'obligation de non concurrence du dirigeant

23-07-2024

Personne clef de la structure qu'il dirige et organise, le dirigeant se doit d'agir dans l'intérêt de l'association dont il préside les destinées. Une obligation légale de loyauté

Financer une association en donnant des jours de congés

16-07-2024

Depuis la loi 2024-344 du 15 avril 2024 (1), il est possible pour un salarié de renoncer à ses jours de congés payés pour en faire don à une association RUP ou d'intérêt général.

Contexte économique et générosité

09-07-2024

Pour les associations et fondations, c'est la saison des premiers bilans. Quid de la générosité de vos donateurs ? Selon le Baromètre 2024 de la générosité Novos-France

Vive la 19ème édition de La France bénévole

02-07-2024

L'édition 2024 de La France bénévole est présentée, pour la 1ère fois, sous une forme synthétique illustrée. Cette nouvelle étude s'appuie sur les résultats des 2 baromètres qui

La 22ème édition du Baromètre de la finance solidaire

25-06-2024

Le 19 juin 2024, l'association FAIR (1) a publié son 22ème baromètre de la finance solidaire. Et c'est une bonne surprise. En effet, l'épargne solidaire poursuit sa progression et

Cautionnement associatif : les recours possibles

18-06-2024

Une association peut-elle se porter caution ? Oui, une personne morale peut aussi se porter caution. Par exemple, une association d'aide aux locataires peut se porter garant en

Financement des associations : le cri d'alarme du CESE

11-06-2024

Le 28 mai 2024, le Conseil économique, social et environnemental (CESE) a adopté à l'unanimité un avis qui alerte (c'est un euphémisme) sur la situation critique des associations.

Certificat de formation à la gestion associative : l'indispensable Sésame

04-06-2024

C'est en 2005, que l'ex Conseil National de la Jeunesse devenu aujourd'hui Conseil d'orientation des politiques de jeunesse (COJ) a souhaité mettre en place une formation

Association syndicale libre : le respect des statuts avant tout

28-05-2024

Bien qu'elles répondent aux mêmes objets que les autres associations syndicales de propriétaires, les associations syndicales libres (ASL) ont un régime de déclaration très proche

La finance solidaire au service des associations

21-05-2024

Qu'est-ce que c'est que la "Finance Solidaire" ? La finance solidaire relie les épargnants qui cherchent à donner du sens à leur argent à des entreprises et associations dont

Découvrir 10 autres articles
Abonnez-vous à Lettrasso+