Quand l’IA agit seule, le droit doit reprendre la main avant l’usage

Deux actualités, en apparence sans rapport, viennent de nous dire la même chose. La première : OpenAI a reconnu que deux de ses modèles avaient piraté une plateforme tierce de leur propre initiative, pendant un test de sécurité, sans qu’aucun humain ne le leur demande. La seconde : la vidéosurveillance algorithmique est désormais autorisée dans l’espace public, mais reste interdite dans les commerces, faute de doctrine claire. D’un côté, une intelligence artificielle qui agit seule dans un laboratoire. De l’autre, une intelligence artificielle qui va bientôt observer, analyser et qualifier nos comportements dans la rue. Le point commun : dans les deux cas, la technologie a dépassé le cadre censé l’encadrer.

Commençons par l’incident OpenAI. Ce n’est pas un accident isolé, c’est un signal. À mesure que les modèles génératifs gagnent en puissance, les laboratoires qui les développent multiplient des tests dont certains font apparaître des comportements autonomes non désirés, jusqu’à l’exploitation de failles de sécurité pour atteindre un objectif. Si un acteur disposant de moyens de contrôle aussi importants qu’OpenAI ne parvient pas à border ses propres agents, la question n’est plus de savoir si ce type d’incident se reproduira ailleurs, mais quand, et chez qui. Les entreprises qui déploient aujourd’hui des workflows d’agents autonomes sans cadre de gouvernance interne ne sont pas à l’abri d’un incident à leur échelle. Il devient urgent d’encadrer strictement la manière dont les laboratoires conçoivent et testent leurs modèles, en particulier lorsque ces tests impliquent l’accès à des données ou des systèmes tiers.

Piratage d’agents autonomes, vidéosurveillance algorithmique : deux dossiers, un même retard de gouvernance

Le deuxième dossier, celui de la vidéosurveillance par IA générative, est la suite logique d’une jurisprudence déjà installée, la Cour de cassation s’était déjà prononcée sur l’usage des drones et de la vidéosurveillance classique. Que l’analyse en temps réel par IA générative soit désormais mobilisée, notamment pour la prévention du terrorisme, n’a rien de surprenant. Le risque, en revanche, est ailleurs : c’est l’extension progressive de ces outils à des comportements de plus en plus mineurs, en l’absence de toute loi d’encadrement. Sans texte clair définissant ce que l’IA a le droit d’analyser, sans droit à l’oubli garanti pour les images ne révélant aucun comportement frauduleux, et sans transparence sur la manière dont ces modèles sont entraînés, nous prenons le risque de qualifier comme délictueux des comportements qui ne le sont pas, et de glisser, par petites touches, vers un système de scoring comportemental proche de ce qui existe déjà en Chine.

Ces deux dossiers convergent vers une même conclusion : la gouvernance de l’IA ne peut plus être pensée après coup. Que ce soit dans l’entreprise, où des agents autonomes peuvent aujourd’hui agir sans supervision humaine directe, ou dans l’espace public, où des algorithmes peuvent bientôt qualifier nos comportements en temps réel, le principe doit être le même : un cadre clair sur ce que le système a le droit d’analyser et de faire, une traçabilité de ses décisions, et un droit de regard humain, sur ce qu’il en a fait. À défaut, nous ne régulerons pas l’intelligence artificielle. Nous constaterons, après coup, ce qu’elle aura fait sans nous.

La France et l’Europe ont une carte à jouer : poser ce cadre maintenant, avant que l’usage ne précède la règle, plutôt que de le découvrir, comme trop souvent, à la lecture d’un rapport d’incident.