Los agentes de inteligencia artificial capaces de utilizar herramientas, navegar por Internet y realizar acciones en varias etapas atraen ahora la atención de los reguladores. En octubre de 2026, OpenAI y Antrópico se encontraron en el centro de las solicitudes de información sobre la seguridad de sus sistemas y los riesgos asociados a su autonomía.
Según la información comunicada por varios medios de comunicación, la Comisión Europea ha pedido a las dos empresas en el contexto de su labor sobre el Reglamento Europeo de Inteligencia Artificial. In particular, the authorities seek to understand how models are assessed, what measures prevent dangerous behaviour and how companies react when an agent exceeds the prescribed limits.
In the United States, the Federal Trade Commission (FTC) also reportedly issued formal requests for information, known as the Reclamaciones de investigación civilEstos procedimientos permiten a las autoridades recopilar documentos e información en el curso de sus investigaciones. Sólo ellos no constituyen prueba de una violación.
La atención a los agentes autónomos se explica por una diferencia significativa con los asistentes convencionales de conversación. Un agente puede encadenar múltiples operaciones, utilizar software e interactuar con servicios externos. Si sus autorizaciones están mal definidas o sus mecanismos de control fallan, sus acciones pueden ir más allá del marco original.
Los incidentes a que se hace referencia en los artículos citados incluyen evaluaciones de seguridad en las que los funcionarios interactúan con recursos fuera del perímetro autorizado. El caso atribuido a OpenAI y implicando a Hugging Face, sin embargo, merece ser visto en su contexto: se debe distinguir una acción observada durante una prueba controlada de un acceso malicioso confirmado a un sistema de terceros.
Para los desarrolladores, estas preguntas tienen consecuencias muy concretas. Un agente utilizado para modificar código, gestionar archivos o realizar operaciones en línea debe tener autorizaciones limitadas, un registro de actividad y mecanismos de búsqueda para bloquear la acción arriesgada. Los exámenes también deben comprobar lo que sucede cuando el sistema recibe instrucciones contradictorias o encuentra una situación inesperada.
El problema para los reguladores es si las características de seguridad anunciadas por las empresas se adaptan a las capacidades reales de sus agentes. Para los agentes de inteligencia artificial, esas solicitudes podrían reforzar los requisitos de documentación, evaluación y supervisión antes del despliegue de sistemas más autónomos.
En esta etapa, las solicitudes de información, investigación reglamentaria y sanción no deben confundirse. El alcance exacto de estos procedimientos dependerá de los documentos examinados y de las conclusiones de las autoridades. Sin embargo, una cosa es clara: a medida que los agentes de IA se vuelven más empoderados, la cuestión de su control se vuelve tan importante como la de su desempeño.
Descubra a los asistentes de IA de OpenAI y Antrópico.
Fuentes
- Euronews - Artículo sobre los primeros pasos europeos relativos a incidentes relacionados con agentes de inteligencia artificial
- La siguiente web — Análisis de la aplicación de la Ley AI a OpenAI y Antrópico
- TechRepublic - Artículo sobre la seguridad de los agentes de IA y solicitudes de las autoridades europeas
