Claude : de nouveaux contrôles pour les équipements autonomes

Ce qui change pour les équipements commandés par Claude

Anthropic ajoute à sa politique d’utilisation des exigences pour certaines actions physiques autonomes. Lorsqu’elles s’appliquent, une personne qualifiée doit pouvoir observer le fonctionnement de l’équipement et l’arrêter à tout moment. L’équipement doit s’arrêter ou conserver un état sûr lorsque cette personne intervient ou lorsque la connexion aux services d’Anthropic est perdue.

Les limites de fonctionnement nécessaires à la sécurité doivent être imposées par l’équipement ou par un contrôleur indépendant des réponses du modèle. La politique cite notamment la vitesse, la force, la portée, la température, la pression, la tension, l’énergie délivrée, la dose ou la zone d’évolution. Politique d’utilisation.

L’annonce du 8 octobre présente ces contrôles physiques comme un ajout. Elle précise en revanche que les exigences de supervision humaine et d’information pour les recommandations à haut risque existaient déjà.

Quels usages entrent dans ce périmètre

Les entreprises françaises concernées sont celles dont les équipements exécutent les réponses de Claude sans approbation humaine dans les situations définies par la politique. Celle-ci couvre aussi les utilisateurs passant par des fournisseurs cloud ou des revendeurs autorisés et les utilisateurs finaux de services intégrant Claude.

Le matériel, ou l’équipement auquel il est relié, doit pouvoir accomplir au moins une des actions suivantes :

• Déplacer un véhicule, un navire, un aéronef, un drone ou un robot mobile là où des personnes peuvent être présentes, ou sur les routes, voies navigables ou dans l’espace aérien.
• Actionner des machines capables de heurter, écraser, coincer une personne proche ou de laisser tomber une charge sur elle.
• Commander des énergies ou matières dangereuses à des niveaux susceptibles de provoquer une blessure : éléments chauffants ou flamme nue, systèmes sous pression, circuits à haute tension ou à fort courant, lasers ou sources de rayonnement dépassant les niveaux sûrs pour les yeux et la peau ; ou commander la libération, le mélange ou la distribution de matières chimiques ou biologiques dangereuses à des niveaux susceptibles de provoquer une blessure.
• Agir sur le corps humain, notamment administrer ou modifier une dose, ou déplacer des instruments dans le corps ou les tissus.
• Commander des systèmes de sécurité, dont les arrêts d’urgence, alarmes, dispositifs anti-incendie, ventilation ou barrières pouvant enfermer une personne.
• Piloter un procédé industriel dont une défaillance pourrait blesser des travailleurs ou le public, y compris indirectement par une intoxication alimentaire ou un produit défectueux.

Quatre exclusions sont expressément prévues : les appareils domestiques et grand public restant dans les limites de sécurité intégrées par leur fabricant, lorsque le pire résultat possible est un inconfort ou un désagrément ; les plans, codes, trajectoires ou commandes examinés par une personne qualifiée avant exécution ; la surveillance, la mesure ou le compte rendu sans commande de l’équipement ; l’automatisation de laboratoire manipulant des matières non dangereuses dans des instruments fermés.

Ces exclusions concernent les exigences physiques décrites ici. Les interdictions générales continuent de s’appliquer. Les règles d’Anthropic ne remplacent pas les lois ou certifications relatives aux machines, au travail, aux véhicules, à l’aviation ou aux dispositifs médicaux. Périmètre et exclusions.

Une application à partir du 12 novembre

La mise à jour a été annoncée le 8 octobre 2026 et entre en vigueur le 12 novembre 2026. Ce calendrier est celui de la politique du fournisseur.

En cas de violation soupçonnée, Anthropic indique pouvoir avertir l’utilisateur, ralentir ou limiter son accès, le suspendre ou le résilier. Il ne s’agit pas d’une amende administrative. Date et mesures possibles.

Ce qu’il faut préparer

• Inventoriez les commandes physiques : distinguez les réponses exécutées automatiquement de celles examinées avant exécution.
• Classez chaque usage dans le périmètre ou dans une exclusion, en conservant les éléments qui justifient cette qualification.
• Désignez la personne qualifiée pouvant observer l’équipement et l’arrêter ; vérifiez concrètement cette possibilité.
• Faites vérifier les protections indépendantes : limites de fonctionnement, intervention humaine et comportement lors d’une perte de connexion.
• Arrêtez avant le 12 novembre les adaptations nécessaires, avec les responsables de l’équipement et de son intégration, en tenant compte des règles de sécurité applicables.

Pour organiser ces responsabilités et contrôles, VCSTS vous accompagne de l’inventaire des usages à la mise en application du cadre : audit, charte, règles métier, responsabilités, contrôles et suivi.