Tag: provenance

Affichage 1-12 sur 15

TutorielsFrance
Ouvrir
01 oct. 20266 min de lecturePlaybook AgentsIntermédiaire240 min build

ProvenanceGuard : éviter la conflation inter‑sources pour les agents LLM basés MCP

Ajoute une couche de vérification « aware » des sources pour les agents qui suivent le Model Context Protocol (MCP). Le vérificateur confirme chaque affirmation contre la sortie de l'outil nommé, retourne support_score et match_span, et signale les cas de conflation entre sources.

Analyses de modèlesÉtats-Unis
Ouvrir
10 sept. 20266 min de lectureBrief sortie modèleIntermédiaire

Les mathématiciens demandent la preuve qu’OpenAI n’a pas entraîné ses modèles sur leurs travaux non publiés

Des mathématiciens ont demandé à OpenAI de démontrer que des brouillons privés ou des conversations n'ont pas été ingérés pour l'entraînement des modèles. Le reportage de The Verge documente la dispute publique mais ne publie pas d'éléments d'audit internes (logs, manifests, preuves cryptographiques) qui permettraient de trancher.

ActualitésÉtats-Unis
Ouvrir
29 août 20266 min de lectureBrief sortie modèleIntermédiaire

Comment les communautés EDM repèrent la musique générée par IA — guide pratique pour équipes et devs (contexte US)

Les fans et artistes EDM utilisent spectrogrammes, stems et métadonnées pour détecter des pistes probablement générées par IA. Ce guide traduit ces techniques en actions concrètes pour petites équipes, fondateurs et développeurs aux États‑Unis.

ActualitésÉtats-Unis
Ouvrir
21 juil. 20266 min de lectureBrief sortie modèleIntermédiaire

Project Indigo (Adobe) : l’AI Playground arrive — filtres génératifs, suppression d’objets et chatbot

Adobe a ajouté un “AI Playground” à Project Indigo : filtres génératifs, suppression d’objets et un chatbot dans l’app appareil photo. Déploiement limité ; soulève des questions de traçabilité et de modération.

TutorielsÉtats-Unis
Ouvrir
04 juil. 20267 min de lecturePlaybook AgentsIntermédiaire180 min build

Attacher le MCP de Causari pour enregistrer et gérer les actions d'agents IA dans un dépôt git

Guide pour attacher le MCP (Micro Causality Proxy) de Causari à un agent de codage IA afin que les prompts, les identifiants de modèle, les lectures/écritures de fichiers et le raisonnement soient enregistrés avec une provenance causale bidirectionnelle pour tracer, revenir en arrière et bisecter.

ActualitésÉtats-Unis
Ouvrir
30 juin 20266 min de lectureBrief sortie modèleIntermédiaire

Musiciens poursuivent Google : enjeux pratiques pour équipes IA et développeurs (contexte US)

Des musiciens indépendants affirment que le modèle musical Lyria de Google a été entraîné sur leurs uploads YouTube. Google a demandé le rejet, invoquant l'absence de preuve directe et les conditions de YouTube. Résumé pratique pour équipes IA : comment documenter la provenance des fichiers et réduire les risques.

ActualitésRoyaume-Uni
Ouvrir
23 juin 20266 min de lectureBrief sortie modèleIntermédiaire

Des annotateurs externalisés disent utiliser des chatbots publics pour fabriquer des dialogues d'entraînement « humains »

Des lanceurs d'alerte rapportent que des travailleurs sous-traités poussent des chatbots publics (ex. ChatGPT) pour générer des dialogues présentés comme produits par des humains, ce qui crée un risque de boucle de rétroaction dans les modèles. Checklist opérationnelle incluse, adaptée aux petites équipes au Royaume-Uni.

TutorielsFrance
Ouvrir
19 juin 20266 min de lecturePlaybook AgentsIntermédiaire90 min build

RootSign : journaux d'audit infalsifiables pour agents IA (open-source)

RootSign est une bibliothèque open-source pour la journalisation infalsifiable des décisions et actions d'agents IA (provenance). Hypothèses : le dépôt peut contenir des intégrations pour CrewAI/LangGraph, un enchaînement de hachage cryptographique (ex. SHA‑256), checkpoints d'approbation humaine, redaction PII et un stockage local Postgres — à vérifier dans le dépôt.

ActualitésFrance
Ouvrir
16 avr. 20265 min de lectureBrief sortie modèleDébutant

L’échange filmé de François Ruffin avec Claude met en lumière les limites des démos LLM pour des affirmations économiques

Le 14 avril 2026, François Ruffin a publié une courte vidéo montrant un échange avec le chatbot Claude (Anthropic). Numerama a relevé que le bot reprenait le cadrage du député sans apporter de données locales ni de modèle économique vérifié — rappel utile : un modèle de langage n’est pas un économiste.

Analyses de modèlesÉtats-Unis
Ouvrir
13 avr. 20266 min de lectureNotes fondateurIntermédiaire

Les écoles d’art intègrent l’IA générative : impacts sur l’évaluation, l’auteur·attribution et les portfolios

Les cursus créatifs intègrent des outils d’IA générative. Cela provoque des protestations et modifie ce que les jurys et recruteurs demandent : désormais, la preuve du processus (provenance) devient essentielle. Guide concret pour salariés, fondateurs et équipes — France / US / UK.