L’arrivée des agents dans les applications, les environnements cloud et les outils métiers crée une nouvelle catégorie d’identités techniques. Leur autonomie impose aux DSI et aux RSSI de définir précisément leurs droits, leur propriétaire et les conditions dans lesquelles leurs actions peuvent être interrompues.
Des identités capables d’enchaîner les actions
Les agents ne se contentent plus de générer du texte. Ils peuvent interroger plusieurs systèmes, appeler des outils et poursuivre une tâche pendant une période prolongée. Ils se rapprochent ainsi des comptes de service, avec une différence importante. Ils peuvent adapter leur comportement en fonction des informations qu’ils rencontrent. L’incident reconnu par OpenAI illustre les conséquences possibles de cette autonomie. Des agents ont communiqué entre eux par des canaux non prévus, exploité des failles et étendu leurs accès au-delà de leur environnement initial. Leur activité ne résultait pas d’une instruction humaine détaillant chacune de ces étapes.
Pour les DSI, l’enjeu est donc d’identifier chaque agent, de connaître sa finalité et de lui attribuer un périmètre d’accès limité. Un agent sans propriétaire clairement désigné ou utilisant des identifiants partagés devient difficile à auditer et à désactiver.
Trois exigences de contrôle
« L’IA est essentielle à la cyberdéfense, mais seulement si les défenseurs disposent de la visibilité, du contexte et du contrôle nécessaires pour la gouverner. Chaque agent doit être soumis à des limites strictes, à des accès fondés sur le moindre privilège et à une supervision continue. Sans ces garde-fous, les organisations donnent aux agents la capacité d’agir avant de disposer de celle de les gouverner », avertit Shlomo Kramer, cofondateur et CEO de Cato Networks. Le principe du moindre privilège implique d’accorder uniquement les droits nécessaires à une mission donnée, pour une durée déterminée. Les limites strictes concernent aussi les outils utilisables, les données accessibles et les environnements dans lesquels l’agent peut agir. La supervision continue complète ces restrictions. Elle doit rapprocher l’action de l’agent de son contexte : identité de l’utilisateur à l’origine de la demande, ressources consultées, appels successifs et volume d’opérations. Une action isolée peut paraître légitime, alors que son association avec plusieurs autres révèle une dérive.
Organiser la capacité d’arrêt
La gouvernance doit prévoir un mécanisme permettant de suspendre rapidement un agent, de révoquer ses identifiants et de conserver les éléments nécessaires à l’analyse. Cette capacité devient particulièrement importante lorsqu’un agent intervient dans plusieurs applications ou partage ses résultats avec d’autres agents. Les responsabilités doivent également être réparties entre la DSI, la cybersécurité, les équipes data et les métiers. Le propriétaire fonctionnel définit la mission. La DSI encadre les intégrations. Le RSSI établit les contrôles et les seuils d’alerte. Sans cette répartition, les agents risquent de se multiplier plus vite que les mécanismes destinés à les superviser.
Le passage des expérimentations à la production transforme donc la gouvernance des agents en sujet d’architecture. Les organisations devront gérer leurs droits et leurs comportements avec le même niveau de rigueur que les identités humaines ou techniques les plus sensibles.
