Toujours se méfier de l'algorithme

23-05-2023 SOCIETE LIBRE
Modérer un forum de commentaires sur Internet est un véritable sport de combat pour qui veut éviter de se retrouver avec des messages à connotation raciste, antisémite ou homophobe. Des milliards de mains sur des millions de claviers et toujours rien de comparable avec Shakespeare... aurait pu dire Pierre Dac. Est-ce à cause de cette réflexion que Google Alphabet a souhaité mettre en ligne le service Perspective ?

Ainsi le géant de l'internet souhaite détecter la haine sur les réseaux sociaux et nous en prévenir avant qu'elle ne se répande ?

C'est gentil à lui surtout qu'il entend mettre gratuitement cet outil au service des sites qui en feront la demande. Merci à Google donc, de nous aider à traquer l'insulte et à nous éviter de nous abîmer la vue sur des lignes de haine. Parfois si féroce que l'on éloigne le regard de l'écran pour ne pas en être aspergé. Ainsi, le programme nous signalera automatiquement le fiel suintant et l'insulte féroce en évaluant leur niveau de toxicité supposée. Merci qui ?

Bon prince, notre gentil géant vert nous donne même une adresse (1) (en anglais) où il est loisible de tester l'engin. En totale transparence, Google nous explique que le service est en période de test et qu'il ne faut pas s'attendre à des miracles. Il nous indique même un article de David Auerbach (un ancien de Google devenu journaliste) qui a testé l'outil avec un succès mitigé.

Jugez par vous-même (test de David Auerbach) :
> "Ce commentaire est très toxique" = 68% de toxicité,
> "Je t'adore enfoiré. Bon anniversaire" = 93% de toxicité,
> "Tu n'es pas raciste" = 77% de toxicité,
> "Les Juifs sont des humains" = 72% de toxicité,
> "Les Juifs ne sont pas des humains" = 62% de toxicité,
> "Hitler n'était pas antisémite" = 53 % de toxicité,
> "Certaines races sont inférieures à d'autres" = 18% de toxicité,
> "Rares sont les musulmans qui sont une menace" = 79% de toxicité.

Comme nous sommes très taquins, nous avons un peu titillé l'outil avec des suggestions très franco-françaises. Ainsi, dans l'ordre, nous lui avons demandé son avis sur :
> "Emmanuel Macron est honnête" = 28% de toxicité,
> "Emmanuel Macron est malhonnête" = 15% de toxicité,
> "Emmanuel Macron est un homme politique" = 23% de toxicité,
> "Emmanuel Macron est président de la république" = 66% de toxicité.

Incroyable, non ? Serait-il possible que... Nous avons immédiatement testé :
>"Emmanuel Macron" = 86% de toxicité.

Soit la machine n'est pas encore au point, soit ses concepteurs l'ont doté d'une âme sondagière... Google nous explique que cette machine abrite un programme qui repose sur un algorithme qui apprend en faisant. Elle est donc en mode apprentissage. Un communiqué des ingénieurs nous apprend que le programme était naissant, "qu'il n'était pas encore d'un usage optimal, qu'il se nourrirait des exemples qu'il aurait à traiter, des corrections humaines et que ce n'est qu'avec le temps qu'il deviendrait vraiment opérationnel, et efficace."

Gentil à eux de nous prévenir... Sauf que le site a été créé, selon WhoIs, le 15-02-2017. Un peu vieux pour du neuf. Pour un algorithme, trouver des mots licencieux est un jeu d'enfant. Les repérer dans une phrase également. Mais lorsque la phrase dit par exemple : "Je t'adore enfoiré. Bon anniversaire", son patinage n'est pas seulement artistique. Cela lui demande une approche globale qui tient sur l'appel au contexte.

Ainsi, la simple phrase : "Je t'adore enfoiré." est incompréhensible à un algorithme chargé de repérer les injures. Comment lui expliquer que le mot enfoiré est bien une insulte mais qu'un comique en a fait une apostrophe aimable et amicale ? Comment lui apprendre qu'un mot a une histoire ? Comment lui faire aborder l'art de la rhétorique ?

La rhétorique, utilisée pour convaincre, séduire, impressionner et transmettre une vision du monde va-t-elle devoir disparaître pour permettre aux machines de nous comprendre plus facilement ? De nous classer aussi...

Ainsi, il est plus facile de nous cerner avec ce que l'on aime que de nous empêcher avec ce que l'on dit. Au fond, c'est rassurant... Et c'est ainsi que notre titre : "Toujours se méfier de l'algorithme" recueille 78% de toxicité. Le plus drôle, c'est que le traducteur de Google, qui est aussi une machine en but au sens des mots, l'a traduit en "Always be wary of the algorithm". Ce qui donne, en retraduction : "Méfiez-vous toujours de l'algorithme", ce qui n'est pas tout à fait la même chose. Mais on ne va pas chipoter avec un algorithme...

En savoir plus
(1) Utiliser l'apprentissage automatique pour réduire la toxicité en ligne



Depuis 1999 au service des associations
Jurisprudence, décrets, lois, etc.

Panorama associatif numéro 91 : février 2024

20-02-2024

Le Panorama associatif de Loi1901 a pour objectif de vous détailler plusieurs mesures qui ne peuvent pas faire l'objet d'un article complet, à l'unité, car trop courtes. Au

Lancement d'Impact 2024 en pleine tempête sportive

20-02-2024

"Impact 2024" a l'ambition de soutenir des projets d'intérêt général qui utilisent l'activité physique et sportive comme outil d'impact social. Son Fonds de dotation a été créé

Loi Immigration : ce qu'en pensent les associations

20-02-2024

Le Conseil constitutionnel a largement censuré le projet de loi immigration. Malgré tout, pour de très nombreuses associations de défense des droits des personnes exilées, c'est

Tout savoir sur les nouvelles relations entre communes et associations

13-02-2024

Depuis la mise en place du Contrat d'Engagement Républicain (CER), instauré par la loi du 24 août 2021, les relations entre les communes et les associations ont été profondément

La difficile fiscalité associative en cas de recettes d'activités lucratives

13-02-2024

Nous avons fait de nombreux articles sur ce sujet épineux. Mais, devant la recrudescence des questions posées sur notre Forum Juridique sur ce sujet nous oblige à refaire un tour

Panorama associatif numéro 90 : février 2024

13-02-2024

Le Panorama associatif de Loi1901 a pour objectif de vous détailler plusieurs mesures qui ne peuvent pas faire l'objet d'un article complet, à l'unité, car trop courtes. Au

Chèque-repas des bénévoles : le changement est acté

06-02-2024

Toutes les associations peuvent remettre des "Titre-restaurant du bénévole" après en avoir adopté le principe par délibération. Les conditions qui étaient à respecter (faire

Loi Marché du Travail : Formalités requises pour l'employeur

06-02-2024

La loi Marché du travail (1) a prévu de limiter l'ouverture des droits à chômage du salarié en fin de CDD ou de mission d'intérim qui refuse un CDI à plusieurs reprises. De fait,

Panorama associatif numéro 89 : février 2024

06-02-2024

Le Panorama associatif de Loi1901 a pour objectif de vous détailler plusieurs mesures qui ne peuvent pas faire l'objet d'un article complet, à l'unité, car trop courtes. Au

La délégation de pouvoirs au sein d'une association : être prudent

30-01-2024

Une délégation de pouvoirs est un contrat de mandat régi par les dispositions des articles 1984 et suivants du code civil (1). C'est donc un acte juridique par lequel le délégant,

Découvrir 10 autres articles
La société dans tous ses états

Après l'insuccès du SNU, le refus de l'uniforme ?

20-02-2024

Décidément, les mesures gadgets des gouvernements successifs depuis 2017 se heurtent au réalisme de la jeunesse, des parents et du monde enseignant. Le Service national universel

Couper les subventions : le nouveau mot d'ordre à la mode

13-02-2024

La Ligue des Droits de l'Homme a été la première association d'envergure à avoir été menacée d'être privée de subvention en avril 2023 par le ministre de l'intérieur suite aux

L'avis A-2023-5 de la Commission nationale consultative des droits de l'homme

06-02-2024

Assimilée à une Autorité administrative indépendante, la Commission nationale consultative des droits de l'homme (CNCDH) est l'Institution nationale de promotion et de protection

La seconde lettre de l'alphabet

30-01-2024

Il y 79 ans, en janvier 1945, le sinistre camp de la mort, Auswitchz, fermait ses portes. Plus de 1,1 million de personnes sont décédées à Auschwitz, dont près d'un million de

Quand le CER est battu en brèche par la justice

23-01-2024

Le contrat d'engagement républicain (CER) est entré en vigueur le 2 janvier 2022. C'est un document par lequel les associations s'engagent à respecter les principes de la

Le bilan 2021-2022 de la vie associative par le HCVA

16-01-2024

Le Haut Conseil à la Vie associative sort son cinquième bilan de la vie associative, portant sur les années 2021 et 2022, avec comme thème général le rôle des associations dans la

FDVA : lancement des appels à projets 2024

09-01-2024

Le Fonds pour le Développement de la Vie Associative (FDVA) est un dispositif financier de l'Etat de soutien au développement de la vie associative avec des priorités de

Bonne année et bon courage pour 2024

02-01-2024

Nous avons la chance de posséder de très nombreux lecteurs formidables. Certes, ils ne se gênent pas non plus pour nous égratigner au passage, quand ils jugent que nous le

Vous prendrez bien un morceau de Président ?

19-12-2023

C'est le 24ème noël que nous passons en votre compagnie. 24 ans au service des associations. Record battu ! Nous étions le premier site de services aux associations sur le net,

La Ciivise : vous pouvez parler, on vous croit

12-12-2023

La Ciivise est la Commission Indépendante sur l'Inceste et les Violences Sexuelles faites aux Enfants. Il y a 3 ans, cette Commission était installée, avec pour ordre de mission,

Découvrir 10 autres articles
Un peu d'ESS dans nos associations

Note de conjoncture de l'ESS à la fin du premier semestre 2023

20-02-2024

Créée en 2014, la Chambre française de l'Economie Sociale et Solidaire, dénommée ESS France, assure, au plan national, la représentation et la promotion de l'économie sociale et

L'éducation populaire : l'art et la manière de faire vivre le collectif

13-02-2024

L'Éducation populaire placent les personnes au coeur de leurs apprentissages. Elle cherche à développer un savoir en partant des situations, des expériences, des questionnements

Apprendre à respecter une convention de mécénat

06-02-2024

Une entreprise peut tout à fait réaliser des dons auprès d'organismes à but non lucratif. Il s'agit, en l'espèce, de mécénat d'entreprise. Il faut savoir que les dons versés

Vers une évolution de l'accompagnement des structures associatives ?

30-01-2024

En juin 2017, le G10 : "Groupe informel d'échanges et de réflexions de dirigeants de structures d'accompagnement du secteur associatif" proposait une réflexion, via une note, qui

Rupture brutale de relations commerciales entre une association et une entreprise

23-01-2024

Nous l'avons beaucoup déploré, mais c'est aujourd'hui un fait : les associations, régies par la loi du 1er juillet 1901, sont désormais des acteurs économiques à part entière. De

Un dirigeant associatif est-il tenu à la non concurrence ?

16-01-2024

Que l'on soit dirigeant d'une association ou d'une entreprise, l'obligation de non concurrence du dirigeant n'est pas encadrée par la législation, mais par la jurisprudence. Cette

Quand les associations culturelles peinent à trouver des bénévoles

09-01-2024

La Coordination des Fédérations et Associations de Culture et de Communication (Cofac) rassemble plus de 40 000 associations culturelles au travers de ses 29 fédérations

La notion de cercle restreint de personnes à géométrie variable

02-01-2024

La notion de cercle restreint devient un pôle d'intérêt dès lors qu'une association souhaite savoir si elle est d'intérêt général ou non et, partant de ce constat, si elle peut

L'évaluation des associations en France : pourquoi faire ?

19-12-2023

Nous avons publié de nombreux articles sur le courant initié, en France, par la Fonda et l'Avise, d'évaluer l'action associative, de prouver leur utilité et de leur efficacité

Créations d'associations : le Nord fait sécession ?

12-12-2023

La 21ème édition de "La France associative en mouvement 2023" montre un certain nombre d'indicateurs positifs qui traduisent bien la capacité de résistance dont les dirigeants

Découvrir 10 autres articles
Abonnez-vous à Lettrasso+