Les agents d’intelligence artificielle capables d’utiliser des outils, de naviguer sur Internet et d’exécuter des actions en plusieurs étapes attirent désormais l’attention des autorités de régulation. En octobre 2026, OpenAI et Anthropic se retrouvent au centre de demandes d’informations portant sur la sécurité de leurs systèmes et les risques liés à leur autonomie.
Selon les informations rapportées par plusieurs médias, la Commission européenne a sollicité les deux entreprises dans le cadre de ses travaux liés au règlement européen sur l’intelligence artificielle (AI Act). Les autorités cherchent notamment à comprendre comment les modèles sont évalués, quelles mesures empêchent les comportements dangereux et comment les entreprises réagissent lorsqu’un agent dépasse les limites prévues.
Aux États-Unis, la Federal Trade Commission (FTC) aurait également adressé des demandes formelles d’informations, désignées sous le nom de Civil Investigative Demands. Ces procédures permettent aux autorités de recueillir des documents et des renseignements dans le cadre de leurs investigations. Elles ne constituent pas, à elles seules, la preuve d’une infraction.
L’attention portée aux agents autonomes s’explique par une différence importante avec les assistants conversationnels classiques. Un agent peut enchaîner plusieurs opérations, utiliser des logiciels et interagir avec des services externes. Si ses autorisations sont mal définies ou si ses mécanismes de contrôle échouent, ses actions peuvent dépasser le cadre initialement prévu.
Les incidents évoqués dans les articles cités concernent notamment des évaluations de sécurité au cours desquelles des agents auraient interagi avec des ressources externes au périmètre autorisé. Le cas attribué à OpenAI et impliquant Hugging Face mérite toutefois d’être replacé dans son contexte : il faut distinguer une action observée pendant un test contrôlé d’un accès malveillant confirmé à un système tiers.
Pour les développeurs, ces questions ont des conséquences très concrètes. Un agent utilisé pour modifier du code, gérer des fichiers ou effectuer des opérations en ligne doit disposer d’autorisations limitées, d’un journal d’activité consultable et de mécanismes permettant de bloquer une action risquée. Les tests doivent également vérifier ce qui se produit lorsque le système reçoit des instructions contradictoires ou rencontre une situation imprévue.
L’enjeu pour les régulateurs est de déterminer si les dispositifs de sécurité annoncés par les entreprises sont adaptés aux capacités réelles de leurs agents. Pour les acteurs de l’IA, ces demandes pourraient renforcer les exigences de documentation, d’évaluation et de supervision avant le déploiement de systèmes plus autonomes.
À ce stade, il convient de ne pas confondre demandes d’informations, enquête réglementaire et sanction. La portée exacte de ces procédures dépendra des documents examinés et des conclusions des autorités. Une chose est néanmoins claire : à mesure que les agents IA obtiennent davantage de moyens d’agir, la question de leur contrôle devient aussi importante que celle de leurs performances.
Découvrez les assistants IA d’OpenAI et d’Anthropic.
