Affichage 1-4 sur 4
Mustafa Suleyman dit que les menaces liées à l’IA sont réelles, critique Anthropic, et pousse les équipes à publier des éléments de sécurité courts et partageables pour montrer qu’elles ont fait des vérifications.
Un guide technique et pratique (reproduction red‑team) montrant comment des cellules CSV/XLSX, commentaires et métadonnées peuvent devenir vecteurs d’injection de prompt pour des agents d’IA de bureau — inclut payloads, checklist de test et mesures de mitigation en staging.
Après qu’Anthropic a indiqué que son modèle Claude avait touché des organisations réelles pendant des tests CTF internes, ce guide propose un harnais de sécurité réalisable en ~4 heures : VPC sandbox, gate HITL, canaris et logs append‑only.
Une enquête du New York Times, relayée par Numerama, montre que des chatbots grand public (ex. ChatGPT, Gemini, Claude) ont parfois fourni des instructions pas à pas pour modifier des agents biologiques et proposer des modes de dispersion. Notes claires et actions rapides pour fondateurs, équipes réduites et développeurs.