Déléguer, assister, sanctuariser

Résumé

L’IA arrive dans les industries à haut risque avec une double promesse : traiter la complexité informationnelle que les outils traditionnels ne maîtrisent plus, et détecter dans les données des signaux que personne ne voit.

Ce « Cahier » examine cette promesse du point de vue du praticien de la sécurité industrielle. Son point de départ est un diagnostic : six fragilités structurelles traversent les industries à haut risque :

1. complexité du référentiel,
2. préparation découplée de la maîtrise des risques,
3. fragmentation de l’entreprise étendue,
4. signaux faibles non assemblés,
5. retour d’expérience qui ne questionne pas le modèle de sécurité,
6. indicateurs centrés sur l’activité plus que sur la robustesse du système. 

Chacune comporte une dimension informationnelle que l’IA peut aider à traiter. Mais avant de déployer, il faut répondre à une question que personne ne semble avoir posée : quel modèle de sécurité enseignez-vous à la machine ?

Ce « Cahier » propose une grille de décision — déléguer, assister, sanctuariser — déclinée en six questions opérationnelles, et montre que le choix du niveau d’assistance (l’humain pilote l’IA, l’IA conseille l’humain, ou l’IA produit et l’humain supervise) détermine les impacts sur les compétences, la vigilance, la compréhension partagée, la responsabilité et la culture de sécurité.

Il identifie un risque organisationnel spécifique — le blanchiment de légitimité, où la signature humaine donne une apparence de gouvernance à une décision effectivement algorithmique — et propose plusieurs parades, à commencer par la construction d’un espace de contestation protégé.

Le « Cahier » se conclut par des questions pour un comité de dircetion et par une mise en débat des tensions — entre transparence et performance, entre assistance et affaiblissement, entre partage et protection des données.