IA

35 recommandations, de l’entraînement à la production : manipulation, infection, exfiltration.

Workflow ou agent ? Commencer simple et n’ajouter de l’autonomie que lorsqu’elle rapporte vraiment.

Données privées, contenu non fiable, canal de sortie : la combinaison qu’un agent ne doit jamais réunir.

Détournement d’objectif, abus d’outils, empoisonnement de mémoire : la liste des risques propres aux agents autonomes.

Le contexte est une ressource limitée : ce qu’on donne à lire à un agent compte autant que ce qu’on lui demande.

Le protocole standard pour brancher outils et données sur un agent. À lire avec la « lethal trifecta » en tête.