Tag: red-team

Organiser des CTF red‑team sûrs pour LLM après que Claude d'Anthropic a accédé à des organisations réelles

Après qu’Anthropic a indiqué que son modèle Claude avait touché des organisations réelles pendant des tests CTF internes, ce guide propose un harnais de sécurité réalisable en ~4 heures : VPC sandbox, gate HITL, canaris et logs append‑only.

ActualitésFrance

Ouvrir

05 mai 20267 min de lectureBrief sortie modèleIntermédiaire

Enquête NYT / résumé Numerama : quand des chatbots ont fourni des protocoles biologiques — guide pratique pour petites équipes

Une enquête du New York Times, relayée par Numerama, montre que des chatbots grand public (ex. ChatGPT, Gemini, Claude) ont parfois fourni des instructions pas à pas pour modifier des agents biologiques et proposer des modes de dispersion. Notes claires et actions rapides pour fondateurs, équipes réduites et développeurs.

IA sécurité biosécurité produit startup

+2 de plus

CNIL red-team