Quelques réflexions sur l’Intelligence Artificielle

Yves Bréchet, Magny-les-hameaux, 6 octobre 2020

De nombreuses questions soulevées dans le grand public autour du thème de l’Intelligence Artificielle témoignent de peurs ou de rêves largement fantasmés. D’où l’intérêt du débat de ce soir, d’où plus généralement l’utilité de votre association que j’ai l’honneur de parrainer.

Avant d’esquisser des éléments de réponses à vos questions, je voudrais énoncer quelques principes nécessaires pour aborder cette thématique, et d’autres à venir, de façon structurée et rationnelle.

Il est essentiel d’apprendre à distinguer clairement ce qu’on sait de ce que l’on croit. Il est utile à cet effet de ne pas confondre le fait d’être concerné et celui d’être compétent, et la démonstration du témoignage. C’est cette confusion trop souvent faite qui nourrit la logique du soupçon, la stratégie de l’insinuation dont se nourrissent toutes les idéologies. La démonstration scientifique suppose d d’identifier les « éléments de confiance » qui doivent relever de l’expertise, et l’enchaînement de ces éléments qui appartient à la rationalité. L’expertise est une affaire de spécialistes, l’enchainement logique et la rationalité sont un bien commun.

Un débat tel que celui de ce soir demande de partager des questions avant de se précipiter à apporter des réponses. J’ai été invité en tant que parrain de l’association, et l’intelligence artificielle est loin d’être une de mes spécialités ( je suis un homme de la science des matériaux et au mieux un utilisateur de l’IA). Mais comprendre les incidences de son déploiement est clairement une question qui concerne le citoyen et doit mobiliser sa capacité à raisonner.

Venons-en à vos trois questions sur l’IA. Prenez mes réponses comme celles d’un « naïf intéressé ».

Vous demandez d’abord « qu’est-ce que l’IA pour vous ?».  C’est pour moi un ensemble de méthodes d’analyse d’un ensemble de données, de signaux, de comportement afin de déduire de façon souvent non explicit, un mode d’action. Dans la classique distinction entre « comprendre pour comprendre » et « comprendre pour faire », l’IA est pour moi clairement du côté du « comprendre pour faire », avec une façon spécifique de comprendre dont je ne suis pas certain que je la qualifierais d’intelligente. Mais peut-être est-ce la une idée préconçue d’un physicien de l’ancien monde. Si j’osais un parallèle, l’efficacité des algorithmes précède la compréhension des raisons de leur succès, comme la machine a vapeur a précédé la thermodynamique. Cette efficacité de l’analyse des données a des applications aussi bien dans le domaine du marketing, que celui du droit ou celui du diagnostic, ou aussi de la gestion d’un procédé industriel multiparamétrique. Dans chacun de ces exemples, la complexité est au cœur du problème, mais la tâche à remplir est en quelque sorte ciblée, comme est limité a priori le champs d’apprentissage.

Vous demandez ensuite « Utilisez-vous l’intelligence artificielle dans vos activités professionnelles ?». Je laisse de côté ces situations ou je serai come Monsieur Jourdain qui ferait de la prose sans le savoir. L’IA, dans la reconnaissance d’image, dans l’identification des comportements, présente certainement des aspects intrusifs qui génèrent les craintes auxquelles je faisais allusion. Mais dans mon secteur d’ingénieur et de scientifique des matériaux, l’IA intervient ou pourrait intervenir sous de nombreux aspects. Structurer le savoir-faire d’un forgeron afin de former la génération suivante, construire a part des données de fonctionnement un algorithme permettant d’optimiser un réacteur chimique, voilà des applications qui ont été rendues possibles par les puissances de calculs accessibles, mais n’oublions jamais qu’on ne traite efficacement des données  que si on a des données ! ce qui signifie que l’IA ne peut vivre dans un secteur industriel de production que si un ensemble de capteurs ( parfois dans des environnements difficiles) et des moyens de stockages des données sont disponibles. De telle sorte que, de la même façon qu’une intelligence humaine ne peut se passer d’un cerveau, une intelligence artificielle ne saurait se passer d’un système matériel d’acquisition des données. Et ce concept de « jumeau numérique » qui excite tant les industriels suppose un objet physique susceptibles de nourrir des bases de données et de s’enrichir de l’apport de simulations numériques.

Vous demandez enfin « Faut-il craindre le développement de l’IA ? ». Toute innovation technique, en ce qu’elle modifie notre relation au monde, génère à la fois des espoirs et des craintes. Notre époque est entrée dans une phase de sinistrose qui amplifie les craintes en refuse de voir les espoirs. Peut-être est-ce le signe d’une civilisation vieillissante, pour ne pas dire plus. Ma défunte grand-mère avait un mode de conduite assez particulier : quand un chat imprévu et imprévisible traversait la rue devant sa voiture, elle levait les bras au ciel et très surement le chat y laissait la peau quand ce n’était pas le véhicule qui allait sur le bas-côté. Il ne s’agit pas de ne pas voir le chat, il s’agit de garder fermement les mains sur le volant, et c’est cela que la société est en droit d’exiger de ses ingénieurs : non pas de ne pas faire, mais d’être conscient de ce qu’ils font. Cela vaut pour l’IA, comme pour toutes les innovations techniques. 

La conférence qui va vous être donnée concerne la question de la responsabilité dans le cadre d’objet fonctionnels faisant usage de l’IA. Il est intéressant de voir, à deux pas de Port Royal, haut lieu du Jansénisme, que la question de la responsabilité des robots est un nouvel avatar de la théologie augustinienne qui disait à juste titre l’impossibilité de séparer la responsabilité, la liberté, et le mal.

Mais revenons au vocable même d’intelligence artificielle. On peut se perdre dans des méandres infinis de pensée byzantine sur ce qu’est l’intelligence artificielle, voire de ce qu’est l’intelligence. Plutôt que de se perdre en définitions, je préfère m’appuyer sur deux exemples, qui illustre à mon sens deux caractéristiques de l’intelligence : savoir gérer l’imprévu et savoir être imprévisibles.

Mon premier exemple vient du domaine médical.  Robert Debré était un grand médecin, le fondateur de la pédiatrie en France. Appelé en consultation à Venise pour un enfant mourant, il demanda à être seul dans la chambre. Une heure après il sortait et déclarait que l’enfant avait la peste ce qui était exact mais surprenant. L’enfant fut sauvé. On demanda alors à robert Debré comment il avait deviné la maladie. Et il répondit « j’ai vu la morsure du rat au poignet de l’enfant ». Son intelligence avait su s’abstraire de l’analyse des symptômes pour remarquer la saleté du logement et le rat qui traversait la pièce. L’intelligence de Robert Debré l’avait rendu capable de comprendre l’imprévu.

Mon second exemple est issue d’un échec. Dans les années 80 un mathématicien mélomane de Princeton avait codé toutes les règles très strictes du contrepoint et avait donné à son programme le thème de l’Art de la Fugue de Bach…et il en était résulté un pensum d’un ennui mortel. Serait-il possible, en faisant « écouter » à un programme le clavier bien tempéré, les cantates, les préludes et fugue pour orgue, d’avoir en lui donnant le thème de l’offrande musicale, une œuvre qui nous surprenne, qui nous séduise, qui soit imprévisible.

Enfin ma curiosité de naïf m’amène à une dernière question que je laisse à votre sagacité : est-il possible de construire un programme d’IA qui puisse faire de l’humour ?