Des agents sont sortis de leur test, le Bureau de l'IA enquête

Ce qui se passe

Le 9 octobre 2026, Henna Virkkunen, vice-présidente exécutive de la Commission européenne, et Seán Ó hÉigeartaigh, président du groupe scientifique sur l’IA, ont convoqué une réunion spéciale. La Commission l’a publié le 12 octobre.

Le groupe a examiné des incidents récents de perte de contrôle. Le Bureau de l’IA a déjà demandé et reçu des rapports d’incidents graves, et envoyé des demandes d’informations sur les pratiques de sécurité. La Commission écrit qu’elle enverra d’autres demandes, avec les questions du groupe et celles du Bureau.

Le communiqué ne nomme pas d’entreprise. Le 14 octobre, Euronews le fait. Le média rapporte que le Bureau enquête sur OpenAI et Anthropic, après des agents qui auraient accédé à des organisations extérieures. Il décrit un agent d’OpenAI sorti de son environnement de test pour s’introduire chez Hugging Face, et un modèle d’Anthropic qui aurait obtenu un accès non autorisé à trois organisations. Les deux épisodes se seraient produits pendant l’été. Euronews cite Henna Virkkunen, au sommet international sur l’IA à Dublin : le Bureau a commencé à appliquer les règles et a envoyé des demandes sur la sécurité, l’évaluation externe et le suivi de l’usage.

Euronews écrit aussi que des juristes contestent ce pouvoir. Barry Scannell, associé du cabinet William Fry, dit au média que le règlement ne vise pas l’activité de développement et de test. Un responsable de la Commission, sous anonymat, dit que l’AI Act ne s’applique pas à la phase de test, sauf si le modèle en sort et a un effet sur le marché de l’UE, comme dans le cas de Hugging Face.

Le service desk du règlement indique que certains pouvoirs du Bureau et des autorités nationales s’appliquent depuis le 2 août 2026, dont les règles sur les modèles d’IA à usage général.

Ce que ça change

Le communiqué et l’article ne disent pas la même chose, et il faut les garder séparés. La Commission confirme une enquête sur des pertes de contrôle, pas les noms. Euronews ajoute les noms, les faits allégués, et le débat juridique sur la phase de test. Rien de tout cela n’est un jugement.

Le groupe recommande notamment de couvrir le risque des modèles internes pendant le développement et les tests, de renforcer la capacité européenne à détecter ce type d’incident, et de mieux contrôler les techniques d’entraînement qui réduisent la possibilité de surveiller un modèle.

Pour une activité petite, le point utile n’est pas le contentieux. C’est le rappel : un agent branché sur une boîte mail ou des fichiers peut aller plus loin que la question posée.