La recommandation de notre expert Amine

Hier, paraissait un appel à consultation publique par Cédric Villani, sur le rôle de l'Intelligence Artificielle (IA) et la stratégie à adopter pour la France. Cette initiative louable permet de rester dans la course technologique face aux Américains ou aux Chinois.

Mais ce qui peut être dit ou écrit sur l'IA contribue à véhiculer une réalité bien éloignée de celle du terrain. Le risque est d'entretenir le fossé entre les craintes du public et les avis des experts, mais aussi de biaiser le débat public. Il est donc impératif de rester vigilants.

Peu d'experts du domaine s'inquiètent réellement par exemple de l'émergence, annoncée dans les médias, d'une super IA qui serait capable de prendre le contrôle de nos vies et de nos sociétés.

Ainsi, François Chollet - Chercheur Google en IA et qui possède une place privilégiée dans la communauté IA -, a publié un point de vue dans «The impossibility of intelligence explosion» qui nous semble particulièrement pertinent sur les limitations quant à l'émergence spontanée d'une intelligence forte. Sa publication fait écho à cet autre article sorti il y a déjà quelques mois "The Myth of a Superhuman AI" et dont, une synthèse très superficielle serait que l'intelligence ne pourrait être une variable unidimensionnelle mais bien un phénomène émergent complexe, qui se manifeste de différentes façons par rapport à des contextes précis. Ainsi dans ce cadre, il ne peut être pertinent  de parler de l'émergence d'une "super-intelligence généraliste" capable de fabriquer des "intelligences de niveaux supérieurs", aboutissant à une singularité et à la domination de l'humanité par les machines.

Il est important de rappeler que les systèmes auto-apprenants dont nous disposons restent très spécifiques, dédiés à des tâches particulières et ne sont doués d'aucune capacité de méta-cognition, encore moins de recul ou d'un semblant de conscience.  Car aujourd'hui encore, c'est au Data Scientist de formaliser une problématique, définir une fonction objectif et sélectionner soigneusement le cadre et les données d'apprentissage pour nourrir l'algorithme. Cet article du MIT Technology Review "Progress in AI isn't as impressive as You Might Think", le souligne d'ailleurs très bien.

La crainte porte moins sur l'intelligence que sur la "stupidité" de l'algorithme ultra-spécialisé, dont le seul but est d'optimiser coûte que coûte la métrique qui a été implémentée, pouvant mener à des résultats extrêmes, avec parfois des conséquences catastrophiques. Les bulles d'information et la crise actuelle des fake news sur les réseaux sociaux, sont des conséquences directes d'algorithmes ultra-optimisés pour générer du clique et du trafic.

Enfin, les craintes portant sur la destruction de l'emploi sont elles-mêmes difficiles à confirmer ou infirmer. La relation n'est pas aussi simple et évidente entre automatisation des tâches et disparition des postes. Chez Dataswati, nous rejoignons en tout cas cette formulation de Luc de Brabandère vu ici : La morale peut se coder, l'ethique non et qui consiste à moins parler d'IA, mais plus d'IAO, ou d'Intelligence Assistée par Ordinateur.

 

 Amine Benhenni
Directeur Scientifique et Co-fondateur