Loki de LibrAI : un outil open-source pour la vérification des faits

Loki est une solution open-source conçue pour automatiser le processus de vérification des faits (Fact Checking). Elle offre un pipeline complet pour décomposer de longs textes en affirmations individuelles, évaluer leur pertinence pour la vérification, générer des requêtes pour la recherche de preuves, collecter des preuves et, finalement, vérifier les affirmations.

Cet outil est particulièrement utile pour les journalistes, les chercheurs et toute personne s’intéressant à verifier des informations. A l’heure de la désinformation, ce logiciel s’avère particulièrement utile pour le « Fact-checking » (vérification des faits).

Une fois les affirmations pertinentes identifiées, Loki génère des requêtes spécifiques pour rechercher des preuves sur Internet. Il utilise divers modèles d’IA, tels que le traitement du langage naturel (NLP), l’apprentissage automatique (ML) et l’extraction d’informations. Cela permet de réduire le temps consacré à l’examen des sources, car l’outil prend en charge cette tâche.

A lire : Comment identifier les fake news et la désinformation ?

Comment fonctionne Loki de LibrAI ?

Une fois les preuves rassemblées, Loki évalue la véracité de chaque affirmation. Il examine les éléments favorables et défavorables pour fournir un verdict. L’outil permet ainsi de déterminer rapidement si une information est vérifiée ou non.

Cependant, il est important de noter que, malgré l’utilisation de modèles d’IA avancés, aucun outil n’est infaillible. L’objectif de Loki est de vous faire gagner du temps, beaucoup de temps, sur la vérification des faits, mais pas de rendre un résultat parfaitement fiable. Comme tout outil IA, une supervision humaine est donc nécessaire pour garantir la fiabilité des résultats.

L’interface est simple et permet une interaction directe avec le moteur de vérification, elle ne nécessite pas de compétences techniques avancées. Loki ne se limite pas à indiquer si une information est vraie ou fausse. Il explique également le raisonnement derrière cette conclusion, offrant ainsi la transparence nécessaire pour que l’utilisateur puisse évaluer la pertinence de la recherche et du cheminement.

Il présente une version corrigée et sourcée de l’information, facilitant ainsi l’apprentissage et le développement de compétences en vérification des faits.

Test de Loki

Si Loki vous interesse, vous vous demandez peut-être ce que vaut cet outil ? Ce n’est pas le seul outil de « Fact checking », alors un test s’impose ! Voici quelques exemples que j’ai réalisé sur des faits simples et également sur un texte plus long.

Vérification des déclarations sur Donald Trump sur les immigrés haïtiens de Springfield (Ohio)

Dans ce test, il s’agit de vérifier les rumeurs colportées par Donald Trump pendant le mois de septembre 2024. Il affirme que les immigrés haïtiens de Springfield (Ohio) voleraient des chats, des chiens et d’autres animaux de compagnie pour les manger. Nous savons déjà que ces affirmations sont fausses, elles ont été démenties par les autorités et de nombreuses enquêtes journalistiques. L’objectif est de voir comment se comporte Loki sur la vérification des faits dans le cadre de déclarations récentes.

J’ai réuni quelques déclarations sur le sujet et demander à Loki de les analyser pour vérifier les faits. Voici le texte à analyser :

Donald Trump stated, "In Springfield, they are eating the dogs. The people that came in, they are eating the cats. They’re eating – they are eating the pets of the people that live there."

City officials told BBC Verify there have been “no credible reports" of pets being harmed by immigrants.

JD Vance promoted the claim on social media, which has had more than 11 million views.

A local resident at a Springfield city commission meeting made grievances against Haitian immigrants, claiming they were slaughtering park ducks for food.

A claim about a cat being killed by Haitian immigrants was made on a Facebook post focusing on crime in Springfield.

Trump claimed to have seen people on television saying, “My dog was taken and used for food.”

BBC Verify did not identify any televised interviews supporting the claims about pets being eaten.

A news report about a woman arrested for killing and eating a cat circulated online, with some right-wing commentators attributing it to Haitian immigrants.

The incident occurred in Canton, Ohio, about 170 miles from Springfield, and the suspect was identified as a US citizen.

Canton Police stated they had not received any complaints regarding Haitian immigrants.

Springfield City Commission officials said, “There have been no credible reports or specific claims of pets being harmed, injured or abused by individuals within the immigrant community.”

Le texte est analysé par Loki, chaque phrase est contextualisée. Tout d’abord, le résultat global n’est pas pertinent dans cet exemple puisque le texte contient à la fois de fausses déclarations et leurs contradictions.

Pour obtenir le detail sur une phrase, il faut cliquer sur la phrase. Loki affiche alors trois parties : « Refutes », « Contextualizes » et « Support ». Chaque partie affiche des sources associées à une explication. Il s’agit d’une analyse sémantique. C’est à dire lorsque Loki vérifie la première phrase « Donald Trump stated, in Springfield, they are eating the dogs. », l’outil vérifie que Donald Trump a bien fait cette déclaration.

Chaque déclaration est indiquée en jaune (Controverse), rouge (Conflict) et vert (Supported Well). Pour la phrase « A local resident at a Springfield city commission meeting made grievances against Haitian immigrants, claiming they were slaughtering park ducks for food. », Loki affiche clairement que cette déclaration est fausse, preuves à l’appui.

Comparaison avec l’analyse de Fact Checker, un GPT de ChatGPT

En comparaison, nous avons demandé une analyse du même texte avec le GPT « Fact Checker » de ChatGPT. Voici le résultat :

« L’affirmation selon laquelle les immigrants, en particulier les immigrants haïtiens à Springfield, dans l’Ohio, mangeraient des animaux de compagnie (chats et chiens) a été largement discréditée. Ce récit a pris naissance à partir d’un post non vérifié sur les réseaux sociaux, et à la fois les responsables de la ville et la police de Springfield ont confirmé qu’il n’existe aucun rapport crédible sur des animaux de compagnie ayant été blessés par des immigrants. JD Vance a amplifié cette affirmation, mais la Commission de la ville de Springfield et la police de Springfield ont déclaré qu’elles n’avaient reçu aucune plainte valide à propos de tels incidents. De plus, la mention faite par Trump à ce sujet lors d’un débat présidentiel n’est soutenue par aucune preuve crédible ou interviews télévisées.

L’histoire d’une femme arrêtée pour avoir tué et mangé un chat a eu lieu à Canton, dans l’Ohio, mais la personne impliquée était une citoyenne américaine, pas une immigrante. Aucun lien entre cet incident et les immigrants haïtiens n’a été établi.

En résumé, les affirmations selon lesquelles des immigrants mangeraient des animaux de compagnie à Springfield sont fausses.​ (Source : PolitiFact, PolitiFact).« 

Le résultat se base sur seulement deux sources et ne donne pas les détails. Cela peut être suffisant, mais si vous cherchez à approfondir le sujet, il faudra poser des questions plus précises au GPT Fact Checker. Loki va donc plus loin, avec plus de sources. Il donne également la possibilité d’approfondir votre recherche sur la vérification des faits et de comprendre d’où viennent les déclarations. Loki est également plus objectif, un élément essentiel pour le Fact Checking.

Comment utiliser Loki ?

Le meilleur moyen d’évaluer Loki de LibrAI est de l’utiliser sur un texte qui correspond à votre besoin. Il y a deux méthodes pour utiliser Loki

• L’interface Web https://loki.librai.tech/ : vous pouvez l’essayer gratuitement avec un nombre de crédits limités.
• Installez Loki à partir de Github, vous trouverez la procédure complète avec ce lien. Des clés API pour OpenAI, Anthropic et Serper seront nécessaires.

Qui est LibrAI la société derrière Loki ?

La société LibrAI, qui est derrière le projet Loki, est basée à Abu Dhabi, aux Émirats arabes unis. Elle est étroitement liée à l’institution MBZUAI (Mohamed bin Zayed University of Artificial Intelligence), où plusieurs de ses fondateurs, comme Haonan Li, occupent également des postes de recherche.

LibrAI est une entreprise axée sur l’IA, fondée par un groupe d’experts ayant de solides antécédents en recherche, y compris le Dr Haonan Li, qui est le CTO. L’entreprise se spécialise dans les technologies et solutions d’IA de pointe, en mettant particulièrement l’accent sur l’automatisation de tâches telles que la vérification des faits et l’assurance de la sécurité du contenu généré par l’IA.

Son produit phare, Loki, est un outil open-source conçu pour vérifier la véracité des informations. Il décompose des textes complexes en affirmations plus petites, évalue leur pertinence, puis explore le web pour trouver des preuves à l’appui ou des réfutations. Cela rend Loki particulièrement précieux pour les journalistes, les chercheurs et toute personne souhaitant lutter contre la désinformation.

A lire : Comment identifier le contenu généré par IA ? Texte, image, audio

Si vous appréciez nos articles, ne manquez les prochains en vous abonnant à Cosmo Games sur Google News, vous pouvez également nous suivre sur X (ex Twitter). N'hésitez pas à partager vos réactions, commentaires ou remarques dans les commentaires, afin d'enrichir le contenu, de mieux vous comprendre et intégrer les différents points de vue. Un partage sur les réseaux sociaux nous aide également beaucoup, merci pour votre soutien !