Prévenir le risque pandémie, premier risque immatériel pour l’entreprise en 2020

La reconnaissance de la garantie humaine

Par David GRUSON, Directeur du Programme Santé Groupe Jouve, Fondateur Ethik-IA

https://www.linkedin.com/in/david-gruson/

A retenir :

• Le numérique et l’intelligence artificielle sont des leviers pour permettre aux entreprises d’affronter le choc de la Covid-19,
• La mobilisation de ces outils en contexte épidémique soulève des enjeux éthiques significatifs,
• La reconnaissance du principe d’une Garantie Humaine de l’IA est une avancée concrète pour la régulation positive de ces enjeux éthiques.

Les acteurs économiques sont confrontés de plein fouet, en cette si singulière et si dure année 2020, aux impacts de la gestion du contexte pandémique Covid-19. Ils ont pris malheureusement pleinement conscience d’une réalité nouvelle. Celle dans laquelle ce risque immatériel pandémique est appelé à s’inscrire dans la durée dans leurs horizons de planification stratégique et opérationnelle. Les entreprises ont également mesuré à quel point le numérique pouvait leur être utile au quotidien dans l’appréhension et la gestion de ce risque. Ce qui est vrai dans le management entrepreneurial l’est aussi dans la réponse sanitaire à l’épidémie elle-même grâce à la mobilisation de nouvelles ressources dans les domaines du numérique et de l’intelligence artificielle en santé.

Dans les deux tomes de la fiction d’anticipation S.A.R.R.A., une intelligence artificielle, je décrivais les risques éthiques immatériels potentiels susceptibles d’être induits par un recours non maîtrisé au numérique et à l’IA en contexte épidémique : d’une part, le risque de délégation de la décision médicale à la Machine et du consentement du patient à l’IA et, d’autre part, le risque d’une moindre prise en compte de l’individu sous l’effet de la logique collective intrinsèque aux calculs basés sur la loi du plus grand nombre opérés par l’algorithme.

L’introduction du principe d’une Garantie Humaine pour l’intelligence artificielle en santé dans la révision de la loi de bioéthique représente une étape très significative pour aborder – et réguler positivement – les enjeux associés aux risques immatériels dans le domaine du numérique.

Cette proposition, portée initialement dans le cadre de l’initiative Ethik-IA, avait pu être reprise dans le cadre du rapport de Cédric VILLANI sur l’intelligence artificielle et, plus spécifiquement, dans le cadre de l’avis 129 et du rapport dédié émis par le Comité consultatif national d’éthique dans le cadre du processus de préparation de la révision bioéthique.

Sur le fond, ce principe renvoie à des valeurs très fortes portées en France et en Europe, placées au cœur de notre protection sociale et qui visent à garder l’Humain au premier plan. L’objectif général est d’éviter des mécanismes de « délégation » de nos décisions aux outils numériques et algorithmiques. Plus largement, la logique de la loi du plus grand nombre intrinsèque au pilotage algorithmique peut être source d’atteintes à la primauté de la Personne.

S’ouvrir résolument à l’innovation et essayer d’en réguler les enjeux éthiques au fil de son application : c’est le sens du principe d’une « Garantie Humaine » du numérique et de l’intelligence artificielle. En retenant ce principe, la France fait le choix d’une approche enfin plus ouverte de l’innovation, dans un cadre législatif et réglementaire qui est déjà, il est vrai, le plus protecteur au monde.

Le concept de « garantie humaine » peut paraître abstrait mais il est, en réalité, très opérationnel. Il introduit l’idée d’une supervision humaine sous la forme d’un pilotage qualité. C’est ce que la Commission européenne appelle Human Oversight dans son Livre Blanc consacré à l’intelligence artificielle et publiée le 11 février dernier.

La supervision peut s’exercer avec le déploiement de « collèges de garantie humaine » associant professionnels utilisateurs, citoyens et innovateurs. Leur vocation est d’assurer a posteriori une révision de dossiers pour porter un regard humain sur les options conseillées ou prises par l’algorithme. L’objectif consiste à s’assurer « au fil de l’eau » que l’algorithme reste sur un développement de Machine Learning à la fois efficace et responsable éthiquement. Les dossiers à auditer pourraient être définis à partir d’événements indésirables constatés, de critères prédéterminés ou d’une sélection aléatoire.

Ce principe de Garantie Humaine avait été très clairement repris dans l’exposé des motifs et l’étude d’impact du projet de loi bioéthique. Il est désormais intégré à l’article 11 de ce même projet de loi adopté en seconde lecture à l’Assemblée nationale le 31 juillet dernier.

*********

Ces reconnaissances successives et de plus en plus larges du principe de Garantie Humaine de l’intelligence artificielle représentent autant d’avancées considérables de la logique de régulation positive d’un certain nombre de risques éthiques immatériels associés au numérique. Il importe désormais de poursuivre et élargir le travail de fond engagé pour mieux identifier ces risques, les qualifier et en déduire des actions opérationnelles pragmatiques visant à les réguler.

La mondialisation heureuse enterrée

Par Louis-Rémy PINAULT, Expert développement stratégique Générali

https://www.linkedin.com/in/louis-remy-pinault/

A retenir :

1. Moderniser le risque management en développant les métiers de la résilience afin de décloisonner gestion des risques / RSE / Excellence Opérationnelle,
2. Face à l’évolution des menaces, dans le cadre de risques systémiques qui échappent techniquement au domaine de l’assurance, permette aux entreprises de développer des provisions pour risques dotées d’une fiscalité allégée,
3. Intégrer l’audit de la robustesse du capital immatériel dans les audits internes / contrôle de gestion,
4. Développer des stress-test appliqué au capital immatériel .

Dès la fin des années 90 la mondialisation a mis en évidence les impacts négatifs de la globalisation d’une économie low cost tant sur le plan social qu’environnemental. Elle a mis en perspective la vraisemblance de menaces de crises, financières, économiques, écologiques, sociales, politiques, géopolitiques pouvant dégénérer en crises systémiques dopées par la vitesse de circulation des informations, des données, des capitaux…

Mais c’est une crise sanitaire, « à l’ancienne «, qui a frappé l’ensemble de la planète rappelant que les limites des scénarii improbables pouvaient toujours être franchies. Dans un contexte de profondes transformations, La crise de la Covid-19 impacte la perception des risques au sein de la société et de l’entreprise.

Le risque en 3D

Cette crise modifie sensiblement le rapport à l’incertitude. Les entreprises intègrent, en principe, en fonction de leur propre culture des risques, ceux qualifiés d’aléatoires et accidentels. Ils sont directement liés à leur activité et leur financement est en principe transféré à leur assureur, dans le cadre des règles techniques de l’assurance. Cependant, ils se trouvent confrontés de plus en plus à des risques d’origine externe aux conséquences dommageables importantes, parfois catastrophiques, pour leur performance, leur valeur, leur avenir :

• Crise géo-politique avec un pays étranger et embargo les privant d’un marché,
• Décision politique, augmentation des droits de douane,
• Crise sociale,
• Accident industriel entraînant une rupture de la supply-chain,
• Impact du réchauffement climatique, météo sensibilité de l’activité, catastrophes naturelles,
• Cybercriminalité et attaque de serveurs stratégiques,
• Lock out électricité,
• Crises systémiques, financière, sanitaire…

Dans cet environnement complexe, face à ces menaces qui s’additionnent aux risques « classiques », risques aléatoires et ceux relevant  du risque d’entreprendre, l’enjeu pour la Direction de l’entreprise est de conserver le contrôle de la situation menaçante, tant dans le dispositif d’alerte que dans le traitement de la crise et la reprise d’activité.

Résilience et capital immatériel

La crise que nous traversons montre que la résilience des entreprises qui s’adaptent le mieux à la situation, s’appuie sur la robustesse de leur capital immatériel. Elles résistent en raison de la solidité du lien de confiance qu’elles entretiennent avec leurs parties prenantes et au premier rang, les collaborateurs.

Cette robustesse du capital immatériel trouve sa source à la fois dans le développement de la culture du risque, de l’Excellence Opérationnelle et celui de l’intégration de la RSE à tous les niveaux de l’entreprise, au sein de son écosystème, sur son territoire.

Le pilotage du capital immatériel, dans le cadre de l’approche de la résilience de l’entreprise, offre l’avantage de décloisonner le management des risques et la RSE. En effet, en mesurant la robustesse du capital immatériel, il est possible d’évaluer les impacts positifs sur la chaîne de valeur mais aussi les vulnérabilités source de risques et de destruction de valeur.

Ainsi, le système d’information pourra être un levier essentiel par exemple pour renforcer le capital client, organisationnel… mais aussi une source de vulnérabilité dans le cadre de cyber attaque aux effets dévastateurs.

Il en sera de même de la fidélité des fournisseurs de premier et second rang dont la prestation est essentielle en matière de qualité mais aussi de conseil dans le cadre de la conception et de l’absence de traçabilité de fournitures stratégiques venant d’Asie.

La situation inédite que nous vivons va devoir conduire à augmenter la solidarité au sein des écosystèmes et en direction des parties prenantes avec pour cible une meilleure protection du capital immatériel et stimuler l’innovation. Le premier enjeu est de repenser le projet de l’entreprise dans le cadre d’une transformation continue pour intégrer les nouvelles technologies, l’impression 3D, la cobotique, la robotique, l’intelligence artificielle… tout en limitant les impacts de son activité.

L’évaluation du capital immatériel et sa prise en compte comme élément moteur de la stratégie de l’entreprise doit conduire à développer des outils de prévention spécifiques. Un capital immatériel évalué, piloté, intégré au management des risques doit permettre d’agir à la fois sur l’efficience et sur la résilience de l’entreprise.