23-05-2023  SOCIETE LIBRE

Toujours se méfier de l'algorithme

Modérer un forum de commentaires sur Internet est un véritable sport de combat pour qui veut éviter de se retrouver avec des messages à connotation raciste, antisémite ou homophobe. Des milliards de mains sur des millions de claviers et toujours rien de comparable avec Shakespeare... aurait pu dire Pierre Dac. Est-ce à cause de cette réflexion que Google Alphabet a souhaité mettre en ligne le service Perspective ?

Ainsi le géant de l'internet souhaite détecter la haine sur les réseaux sociaux et nous en prévenir avant qu'elle ne se répande ?

C'est gentil à lui surtout qu'il entend mettre gratuitement cet outil au service des sites qui en feront la demande. Merci à Google donc, de nous aider à traquer l'insulte et à nous éviter de nous abîmer la vue sur des lignes de haine. Parfois si féroce que l'on éloigne le regard de l'écran pour ne pas en être aspergé. Ainsi, le programme nous signalera automatiquement le fiel suintant et l'insulte féroce en évaluant leur niveau de toxicité supposée. Merci qui ?

Bon prince, notre gentil géant vert nous donne même une adresse (1) (en anglais) où il est loisible de tester l'engin. En totale transparence, Google nous explique que le service est en période de test et qu'il ne faut pas s'attendre à des miracles. Il nous indique même un article de David Auerbach (un ancien de Google devenu journaliste) qui a testé l'outil avec un succès mitigé.

Jugez par vous-même (test de David Auerbach) :
> "Ce commentaire est très toxique" = 68% de toxicité,
> "Je t'adore enfoiré. Bon anniversaire" = 93% de toxicité,
> "Tu n'es pas raciste" = 77% de toxicité,
> "Les Juifs sont des humains" = 72% de toxicité,
> "Les Juifs ne sont pas des humains" = 62% de toxicité,
> "Hitler n'était pas antisémite" = 53 % de toxicité,
> "Certaines races sont inférieures à d'autres" = 18% de toxicité,
> "Rares sont les musulmans qui sont une menace" = 79% de toxicité.

Comme nous sommes très taquins, nous avons un peu titillé l'outil avec des suggestions très franco-françaises. Ainsi, dans l'ordre, nous lui avons demandé son avis sur :
> "Emmanuel Macron est honnête" = 28% de toxicité,
> "Emmanuel Macron est malhonnête" = 15% de toxicité,
> "Emmanuel Macron est un homme politique" = 23% de toxicité,
> "Emmanuel Macron est président de la république" = 66% de toxicité.

Incroyable, non ? Serait-il possible que... Nous avons immédiatement testé :
>"Emmanuel Macron" = 86% de toxicité.

Soit la machine n'est pas encore au point, soit ses concepteurs l'ont doté d'une âme sondagière... Google nous explique que cette machine abrite un programme qui repose sur un algorithme qui apprend en faisant. Elle est donc en mode apprentissage. Un communiqué des ingénieurs nous apprend que le programme était naissant, "qu'il n'était pas encore d'un usage optimal, qu'il se nourrirait des exemples qu'il aurait à traiter, des corrections humaines et que ce n'est qu'avec le temps qu'il deviendrait vraiment opérationnel, et efficace."

Gentil à eux de nous prévenir... Sauf que le site a été créé, selon WhoIs, le 15-02-2017. Un peu vieux pour du neuf. Pour un algorithme, trouver des mots licencieux est un jeu d'enfant. Les repérer dans une phrase également. Mais lorsque la phrase dit par exemple : "Je t'adore enfoiré. Bon anniversaire", son patinage n'est pas seulement artistique. Cela lui demande une approche globale qui tient sur l'appel au contexte.

Ainsi, la simple phrase : "Je t'adore enfoiré." est incompréhensible à un algorithme chargé de repérer les injures. Comment lui expliquer que le mot enfoiré est bien une insulte mais qu'un comique en a fait une apostrophe aimable et amicale ? Comment lui apprendre qu'un mot a une histoire ? Comment lui faire aborder l'art de la rhétorique ?

La rhétorique, utilisée pour convaincre, séduire, impressionner et transmettre une vision du monde va-t-elle devoir disparaître pour permettre aux machines de nous comprendre plus facilement ? De nous classer aussi...

Ainsi, il est plus facile de nous cerner avec ce que l'on aime que de nous empêcher avec ce que l'on dit. Au fond, c'est rassurant... Et c'est ainsi que notre titre : "Toujours se méfier de l'algorithme" recueille 78% de toxicité. Le plus drôle, c'est que le traducteur de Google, qui est aussi une machine en but au sens des mots, l'a traduit en "Always be wary of the algorithm". Ce qui donne, en retraduction : "Méfiez-vous toujours de l'algorithme", ce qui n'est pas tout à fait la même chose. Mais on ne va pas chipoter avec un algorithme...

En savoir plus
(1) Utiliser l'apprentissage automatique pour réduire la toxicité en ligne

Voici le tag Internet à sélectionner, à copier et à coller sans transformation dans la page du site où vous allez utiliser cet article. D'avance merci.

Sélection du texte ci-dessous
Toujours se méfier de l'algorithme 
Modérer un forum de commentaires sur Internet est un véritable sport de combat pour qui veut éviter de se retrouver avec des messages à connotation raciste, antisémite ou homophobe. Des milliards de mains sur des ...  <a href="https://www.loi1901.com/intranet/a_news/index_news.php?Id=2724" target="_blank">Lire la suite sur Loi1901.com</a>

Découvrir 10 autres articles



Depuis 1999 au service des associations
Jurisprudence, décrets, lois, etc.

Dénoncer son président auprès d'un juge, comment faire ?

01-07-2025

Que faire en cas de découvertes de malversations de la part du président de son association ? Ne rien dire ? Difficile et dangereux. Le dénoncer ? Oui, mais comment ? Déposer

Marchandisation du secteur associatif : processus dangereux

01-07-2025

La marchandisation du secteur associatif vise à transformer, à la fois le financement des associations et le regard porté sur leur rôle dans notre société. Le décryptage du

Panorama associatif numéro 135 : début juillet 2025

01-07-2025

Le Panorama associatif de Loi1901 a pour objectif de vous détailler plusieurs mesures qui ne peuvent pas faire l'objet d'un article complet, à l'unité, car trop courtes. Au

Service civique : quid du partage des responsabilités ?

24-06-2025

Pour le régime juridique du service civique, les jeunes en service civique ne sont ni salariés ni bénévoles, encore moins stagiaires ou en formation. Ils sont volontaires pour

Pour une bonne gouvernance Associative : tout savoir (3ème partie)

24-06-2025

Voici la troisième et dernière partie qui concerne les bonnes pratiques et témoignages pour une bonne et durable gouvernance associative. L'objectif, encore une fois, est de vous

Reçus fiscaux : l'intérêt général avant tout

24-06-2025

Emettre un reçu fiscal n'est autorisé que pour les associations RUP ou reconnues d'intérêt général (1). Il est, à ce titre, rappelé que la délivrance irrégulière de reçus fiscaux

Pour une bonne gouvernance Associative : tout savoir (2ème partie)

17-06-2025

Voici la deuxième partie concernant les bonnes pratiques et témoignages pour une bonne et durable gouvernance associative. L'objectif, encore une fois, est de vous aider à

Panorama associatif numéro 134 : juin 2025

17-06-2025

Le Panorama associatif de Loi1901 a pour objectif de vous détailler plusieurs mesures qui ne peuvent pas faire l'objet d'un article complet, à l'unité, car trop courtes. Au

Les associations politiques : apport réel ou tromperie sournoise ?

17-06-2025

De plus en plus, les citoyens s'associent pour porter ensemble leur parole et leur capacité d'intervention dans tous les champs de la vie collective. Mais le développement de

Pour une bonne gouvernance Associative : tout savoir (1ère partie)

10-06-2025

Avec les profondes modifications qui touchent aujourd'hui le secteur associatif, il est devenu tout à fait pertinent de mettre en place des règles dites "de bonne gouvernance"

Découvrir 10 autres articles
La société dans tous ses états

Comment renforcer le lien social ?

01-07-2025

C'est une bonne question que pose le titre de cet article. Oui, comment renforcer le lien social fort distendu depuis les 15 dernières années ? Un proche du président Macron,

Observatoire citoyen de la marchandisation des associations 2025

24-06-2025

L'Observatoire citoyen de la "marchandisation des associations" publie son deuxième rapport qui met en avant les moyens disponibles pour entamer la "démarchandisation des

Une histoire de poissons volants

17-06-2025

On appelle les poissons volants "exocet". Son nom a été donné à un missile français bien connu car, comme ce poisson, il vole au ras de l'eau et a coulé le destroyer britannique

Comment réunir les conditions de délégation de pouvoirs dans une association ?

10-06-2025

Une délégation de pouvoirs est l'acte par lequel une personne dite le délégant, transfère à une autre personne appelée le délégataire, une partie de ses pouvoirs. Le délégataire

Toute découverte de la science pure est subversive en puissance

03-06-2025

Rendons à Aldous Huxley le titre de cet article que nous lui avons emprunté. De son côté, Henri Michaux se plaignait déjà que "Toute science crée une nouvelle ignorance" ce qui

Etre partie civile en tant qu'association : comment faire ?

27-05-2025

Votre association est victime d'une infraction, d'un acte interdit par la loi et passible de sanctions pénales ? Elle a subi un préjudice ? Elle souhaite défendre un tiers ? La

Loi Handicap : un chantier largement inachevé 20 ans après

20-05-2025

Durant l'année 2005, la France faisait évoluer ses dispositions juridiques en matière d'accès aux droits pour les personnes handicapées, grâce à la loi 2005-102 (dite loi

Groupe associatif : l'union fait la force

13-05-2025

Il existe des principes intangibles dont l'efficacité n'est plus à démontrer. La devise "l'union fait la force" fait partie de ceux-là. Et le secteur associatif le démontre à son

Les associations au bord de la crise de nerfs

06-05-2025

Le Mouvement associatif, le Réseau National des Maisons des Associations (RNMA) et Hexopée (qui accompagne les employeurs de l'ESS) ont mandaté l'Observatoire Régional de la Vie

Quand le modèle de la commande publique vient paupériser les associations

29-04-2025

Depuis un peu plus d'une quinzaine d'années, l'État et les collectivités locales utilisent, pour financer les associations, de moins en moins les subventions et de plus en plus

Découvrir 10 autres articles
Un peu d'ESS dans nos associations

Observatoire des vacances et des loisirs des enfants

01-07-2025

L'Observatoire des vacances et des loisirs des enfants (OVLEJ) a fait le choix de mettre en oeuvre une nouvelle étude permettant de prendre en compte les freins et leviers à

2025 : 20ème édition de la La France bénévole

24-06-2025

Cette 20ème édition de "La France Bénévole" ne concerne pas l'ancienne ministre des sports, Amélie Oudéa-Castéra, qui réclame 9 000 euros bruts par mois pour être à la tête du

La 6ème Edition du Baromètre du Bénévolat se veut un peu trop rassurante

17-06-2025

Selon le 6ème Baromètre du Bénévolat publié par France Bénévolat, les bénévoles associatifs seraient moins nombreux, mais plus jeunes et plus investis. Je veux bien le croire,

ESS : le dernier kilomètre de l'intérêt général

10-06-2025

L'économie sociale et solidaire est un modèle à part dans l'économie française qui rassemble 14 % de l'emploi salarié privé au travers des associations, coopératives, fondations,

La place du numérique dans le projet associatif en 2025

03-06-2025

La transition numérique, qui est un enjeu majeur pour la société française, a été adoptée très rapidement par la majorité des associations. Il y a toujours un bénévole qui possède

On fait le point sur la parité dans l'encadrement sportif

27-05-2025

Le Haut Conseil à l'Egalité Entre les Hommes et les Femmes vient de publier un rapport sur la parité dans l'encadrement sportif. Cette enquête met en lumière les obstacles

La 5ème édition de la SASER du 19 au 23 mai 2025

20-05-2025

La SASER est l'acronyme de la Semaine des Achats Socialement et Écologiquement Responsables. Elle commence dès aujourd'hui et se terminera le 23 mai. C'est déjà la cinquième

Démission d'un membre dirigeant : l'art et la manière

13-05-2025

En principe, un membre d'une association peut démissionner à tout moment et librement sauf avis contraire des statuts. En effet, ces derniers peuvent soumettre la démission à

Transfert de contrats de travail entre 2 associations

06-05-2025

Le transfert d'une activité économique autonome entre 2 associations a pour effet de transférer les contrats de travail de l'une à l'autre. Et pourtant, ce genre de situation

Associations : vous avez droit à l'exonération totale des droits de mutation

29-04-2025

Il faut le dire et le répéter, les acteurs de l'économie sociale ignorent trop souvent la fiscalité relatives aux donations, legs et surtout les assurances vie dont bénéficient

Découvrir 10 autres articles
Abonnez-vous à Lettrasso+