Tag: fact checking

Aujourd’hui, une photo de Donald Trump arrêté par la police peut faire le tour du monde avant que quelqu’un ne se rende compte… qu’elle n’a jamais existé. Les images générées par intelligence artificielle (IA) se multiplient sur les réseaux, parfois pour le divertissement, parfois pour désinformer. Mais une question persiste : comment savoir si une image a été créée par une IA ? Et surtout, pourquoi est-ce devenu si difficile ?

Les outils comme Midjourney, DALL·E ou Stable Diffusion ont démocratisé la création d’images bien avant le fameux Nanobanana de Google/Gemini, qui marque un tournant en combinant des capacités professionnelles à une vitesse de génération «Flash».

En quelques secondes, il suffit de taper une phrase comme “une femme en armure sous la pluie, style réaliste” pour obtenir une image bluffante et hyper réelle. Résultat : n’importe qui peut produire une photo “trop belle pour être vraie”. Et bien souvent, elle l’est. Si ces technologies sont fascinantes pour les artistes ou les créateurs de contenu, elles posent un vrai problème dans un monde où une image suffit à créer le doute : politique, désinformation, fake news… L’IA brouille les frontières entre le réel et le faux.

On n’est jamais si bien servi que par soi-même…, c’est la conclusion que l’on peut tirer de la lecture du récent article du NIKKEIAsia « Invisible prompts in manuscripts: Authors use AI ‘prompt injection’ to sway peer review ».

Les auteurs de l’article de NIKKEIAsia ont découvert que de petits malins, auteurs ou co-auteurs de 17 articles, en attente de review, présents dans arXiv - le bien connu et plus ancien réservoir de preprints - ont trouvé un moyen de « forcer » une IA à donner une excellente évaluation de leur article.

L’objectif de la manipulation : permettre ou au moins faciliter la publication de l’article dans un journal de bonne réputation ou l’acceptation d’une soumission d’une conférence à un congrès.

Comment s’y sont-ils pris ?

Savoir repérer les dérives

L'intégrité scientifique peut être compromise de multiples façons. Parmi les écueils les plus fréquents, on retrouve le plagiat, la manipulation d'images, l'abus d'auto-citations, un recours excessif à des articles rétractés, ou encore l'utilisation de données peu fiables ou incohérentes.

Mais comment identifier ces dérives ? Et surtout, que faire lorsqu’on en repère une dans un article ? Aujourd’hui, des outils existent pour aider chacun – chercheur, lecteur ou professionnel de l'information – à vérifier, signaler ou mieux comprendre les écarts. Cette pratique, appelée relecture post-publication (Post Publication Peer Review), gagne du terrain. Elle a d’ailleurs fait l’objet d’un article dans BASES N° 433 - mars 2025. 

Le COSIG un guide complet détaillé

Pour accompagner ces démarches le Center for Open Science dont la mission est, en particulier, de contribuer à l’intégrité de la science vient de publier une mise à jour de son guide de référence le COSIG (Collection of Open Science Integrity Guides) .

Une dizaine de media européens, pilotés par l’Agence France Presse et cofinancés par la Communauté Européenne viennent de lancer ChatEurope.

Cette plateforme a été créée pour répondre à une très grande variété de questions liées à l’Europe posées en langage naturel dans dix langues, les réponses étant fournies en sept langues.

Le contenu est composé de milliers de documents (articles, dépêches, …) provenant des media partenaires à partir desquels le chatbot construit ses réponses.

S’appuyant uniquement sur des contenus validés les réponses peuvent être considérées comme fiables ce qui est un critère important de nos jours.

Inoreader est un agrégateur de flux RSS connu des professionnels de la veille qui sont particulièrement concernés par l’idée de se constituer un « second cerveau ». Ce dernier est capable de mémoriser l’information importante tout en facilitant sa disponibilité pour l’utiliser quand cela s’avère nécessaire. Jusqu’où et comment cet outil de veille peut-il contribuer à cette démarche ? Voici une méthode pas à pas.

L’idée de se construire un « second cerveau » digital, sorte d’externalisation de sa mémoire informationnelle est ancienne. Elle a été popularisée récemment avec succès par Tiago Forte (voir à ce sujet les articles de Netsources N° 165 - juillet/août 2023). Sa démarche se divise en quatre étapes, réunies sous l’acronyme CODE : Capturer, Organiser, Distiller et Exprimer.

Lire aussi :

Que valent les outils de reconnaissance faciale pour la veille image ou l’investigation ? (Bases N°414 - mai 2023)

La veille et la recherche d’information à l’ère des « fake news » et de la désinformation (Netsources N°140 - mai/juin 2019)

Tirer parti du fact-checking et du journalisme d’investigation pour la veille et la recherche d’information (Netsources N°140 - mai/juin 2019)

La fiabilité des sources est un critère essentiel pour les professionnels de la veille. En effet, ils doivent s’assurer que les informations qu’ils collectent sont exactes et fiables afin de pouvoir les transmettre à leurs clients.

Pour cela, ils vérifient davantage la fiabilité des sources en amont en bâtissant un dispositif solide, plutôt que via un «fact-checking après coup» des sources des informations. Cette opération serait en effet bien trop chronophage, le temps devant être consacré à la validation et l’analyse du contenu de l’information lui-même.

C’est ainsi que pour les zones géographiques que l’on maîtrise, on a son échelle de valeur de qualité des sources. Sur des zones que l’on connaît mal, c’est plus difficile.

Aujourd’hui, devant l’impact des IA génératives sur la chaîne de l’information et par souci d’exhaustivité, le veilleur n’a d’autre choix que d’explorer les solutions alimentées à l’IA. Il s’expose ainsi à une masse de contenu non fiable, en provenance des générateurs de texte comme ChatGPT ou Bard, ainsi que des moteurs de recherche dopés à l’IA comme Bing Chat ou Perplexity.

Pour en évaluer le contenu, ces textes générés par IA, dits « synthétiques », doivent être a minima vérifiables. Pour cela, trois éléments sont à vérifier : la source, les faits et leur interprétation. Or, non seulement l’IA génère de fausses informations, mais elle ne permet pas actuellement de les vérifier. Ce faisant, elle va jusqu’à inverser le rapport au temps du veilleur entre la production d’une analyse (qui devient très rapide) et sa vérification (chronophage).

À côté des outils de reconnaissance faciale payants créés par Clearview, Thales ou Amazon, des moteurs de recherche faciale sont accessibles gratuitement sur le web, et à tout public. Mais que peut-on en tirer dans un contexte de recherche et de veille professionnelle ?

On pourrait penser que la reconnaissance faciale n’est rien d’autre que de la recherche d’image inversée, consacrée aux visages. Il existe d’ailleurs une option « Face » dans Google Images. Mais à la lecture des résultats, on comprend que l’outil n’a vraisemblablement pas été conçu pour prendre en charge la reconnaissance faciale individuelle.

Surtout, il s’agit de deux technologies différentes, aux usages différents :

• La recherche d’image inversée utilise un algorithme de recherche d’image permettant de comparer une image uploadée sur un moteur de recherche à celles qui sont disponibles publiquement sur internet. Elle est donc utilisée pour trouver la source d’une image et/ou en vérifier l’authenticité, ce qui permet à un professionnel de l’information de vérifier la source et la fiabilité d’une information. Appliquée à une personne en l’absence de données d’identification, cette recherche nécessite de se fier à la légende de la photo, si légende il y a, pour identifier la personne.

Depuis l’élection de Donald Trump aux Etats-Unis et l’émergence des « fake news » et autres « alternative facts », le fact-checking est une pratique qui a le vent en poupe. Même si elle existe depuis longtemps, les outils et ressources à destination du grand public ne cessent de se multiplier depuis plusieurs mois.

Nous avions consacré la Une de notre revue NETSOURCES n°119 en novembre/décembre 2015 à cette pratique dans un article intitulé « Fact-Checking et vérification quel rôle et quels outils pour le veilleur ?».

Nous y définissions le concept de fact-checking et nous présentions l’intérêt pour le veilleur, l’impact des réseaux sociaux pour le fact-checking, la vérification pour le veilleur et les différentes grandes ressources pour le fact-checking.

Depuis la rédaction de cet article, le paysage des outils pour vérifier la véracité d’une information ou d’une source s'est beaucoup enrichi.

Cette nouvelle décennie s’annonce riche pour la veille et la recherche d’information professionnelle avec de nombreux challenges en perspective.

Voici dix bonnes résolutions pour le veilleur en 2020 :

1. Lutter contre l’infobésité en privilégiant une sélectivité des sources;

2. Trouver des solutions pour intégrer les contenus multimédias à sa veille au même titre que les contenus textuels;

3. Tirer parti des évolutions de la traduction automatique pour renforcer sa veille sur des langues autres que l’anglais;

4. Accorder plus d’importance à la fiabilité des sources et informations et être vigilant sur la porosité de la frontière information/publicité;

5. Adapter ses livrables aux attentes et pratiques de son public et non l’inverse;

Fact Check Explorer : le nouveau moteur de recherche Google pour consulter uniquement les articles de fact-checking qui ont été publiés sur votre sujet.

Entrez votre requête et découvrez une liste de résultats préalablement tagués avec le nom de l’émetteur de l’information, le thème, la région du monde et enfin la source de fact-checking qui a répondu à cette affirmation.

Bien que vous n'ayez pas accès à la liste de tags complète, vous pouvez poursuivre votre navigation en cliquant sur les fameux tags. Aussi, dès l’affichage de cette liste de résultats, le verdict donné à la fin de l’article de fact-checking est précisé : "vrai" "faux " trompeur" "imprécis"... (ndlr : ce n’est pas systématique). Le corpus de sources interrogé par Google est constitué des grandes pages de fact-checking : CheckNews, Décodeurs, AFP Fact Check…, ce qui permet d'asseoir sa requête sur un sourcing préqualifié.

Source : Outilstice 

La vérification et l’investigation sont à la base du journalisme. Mais depuis quelques années, on voit apparaître de plus en plus de rubriques, chroniques, outils dédiés au fact-checking développés par des médias et journalistes.

Et au-delà du fact-checking lui-même, on voit également se développer des sites ou comptes sur les médias sociaux créés par des journalistes ou spécialistes de l’investigation qui proposent des listes d’outils gratuits et méthodes pour vérifier la fiabilité d’une information, d’une image ou d’une vidéo.

Dans un monde où la désinformation se réinvente en permanence, prend de nouvelles formes (notamment grâce à l’essor de l’IA, à l’image des deep fakes (voir glossaire) par exemple) pour s’attaquer sans cesse à de nouvelles cibles et sources d’information, il faut sans cesse se former et se tenir à jour pour identifier les meilleurs méthodes et outils, pour évaluer la fiabilité des contenus, des sources et des méthodes.

Lire aussi :

La veille et la recherche d'information à l'ère des « fake news » et de la désinformation
Les géants du Web face aux « fake news »
Les outils de veille et de recherche professionnels face à la fiabilité des sources
Ces start-ups qui investissent le champ de l'évaluation des sources et contenus
Comment évaluer la fiabilité des sources dans des pays dont on ne connaît pas la langue ?

Comme nous avons pu le voir précédemment, certains géants du Web et les outils de recherche et de veille professionnels commencent progressivement à intégrer des fonctionnalités permettant d’évaluer la fiabilité des sources, notamment en mettant en place des partenariats avec des start-ups qui se positionnement sur l’évaluation des sources et des contenus.

Nous avons interviewé trois acteurs sur le marché français se positionnant sur ce créneau, avec des approches intéressantes mais divergentes. Nous avons par ailleurs identifié les autres acteurs en place, que nous analyserons dans cet article.

Lire aussi :

La veille et la recherche d'information à l'ère des « fake news » et de la désinformation
Les géants du Web face aux « fake news »
Tirer parti du fact-checking et du journalisme d'investigation pour la veille et la recherche d information
Les outils de veille et de recherche professionnels face à la fiabilité des sources
Comment évaluer la fiabilité des sources dans des pays dont on ne connaît pas la langue ?

Après avoir vu comment les géants du Web, les médias, journalistes, professionnels de l’investigation appréhendent la question de la désinformation, qu’en est-il des outils de recherche et de veille professionnels souvent payants.

Comment prennent-ils en compte la question de la désinformation et des fausses informations ? Comment aident-ils leurs utilisateurs à évaluer les contenus et les sources qu’ils agrègent ?

Nous avons interrogé les principaux acteurs sur le marché français.

Lire aussi :

La veille et la recherche d'information à l'ère des « fake news » et de la désinformation
Les géants du Web face aux « fake news »
Tirer parti du fact-checking et du journalisme d'investigation pour la veille et la recherche d information
Ces start-ups qui investissent le champ de l'évaluation des sources et contenus
Comment évaluer la fiabilité des sources dans des pays dont on ne connaît pas la langue ?

La vérification des faits, activité bénéficiant jusqu’à alors de peu de reconnaissance, a connu depuis quelques années une renaissance.

Les raisons de ce nouvel intérêt sont sans doute multiples, mais l’explication la plus souvent avancée est un besoin d’être rassuré face à un flux d’informations toujours plus important et toujours plus douteux.

Une initiative intéressante a été lancée par la direction de la communication de la Présidence de la République, qui a ouvert un compteTwitter, @Elysee_com. L’objectif est de « dialoguer avec des citoyens ou des journalistes pour corriger des informations erronées ou imparfaites que l'on a vues sur le web. Il ne s'agit pas de créer des contenus mais de renvoyer les internautes vers les bonnes sources ».

Même si, comme l’analyse France Info, le but est d’éviter l’inflammation des réseaux sociaux par des informations inexactes, et même si la lecture des quelques 200 premiers tweets laisse un peu sceptique sur le mélange des genres entre rétablissement des faits et communication présidentielle ou gouvernementale, la pratique du dialogue est une bonne arme contre la désinformation trop présente sur les medias (et pas seulement sociaux).

Communication Élysée @Elysee_Com - 8 mai

Bonjour @closerfr l'article de @Valeurs est faux, non étayé et non vérifié. La prochaine fois, demandez nous. Bonne journée.