ANSSI : recommandations de sécurité pour un système d'IA générative
35 recommandations, de l’entraînement à la production : manipulation, infection, exfiltration.

Les articles, guides et outils qui m'ont appris quelque chose, avec deux lignes de commentaire.
35 recommandations, de l’entraînement à la production : manipulation, infection, exfiltration.
Un format ouvert pour donner ses consignes aux agents de code. C’est par lui qu’un agent peut publier sur ce site.
Workflow ou agent ? Commencer simple et n’ajouter de l’autonomie que lorsqu’elle rapporte vraiment.
Les recommandations franco-allemandes pour coder avec un assistant IA sans exposer son code ni sa chaîne de production.
Explorer, planifier, coder, committer : la boucle de travail avec un agent, et le rôle du fichier de consignes.
Données privées, contenu non fiable, canal de sortie : la combinaison qu’un agent ne doit jamais réunir.
Détournement d’objectif, abus d’outils, empoisonnement de mémoire : la liste des risques propres aux agents autonomes.
Le contexte est une ressource limitée : ce qu’on donne à lire à un agent compte autant que ce qu’on lui demande.
Le protocole standard pour brancher outils et données sur un agent. À lire avec la « lethal trifecta » en tête.