Intelligence artificielle : l’homme augmenté ou l’homme substitué ?

© Hervé Cuillandre 2017 in Humanisme n°316

Le petit monde de l’intelligence artificielle est en émoi : Alpha GO, une puissante machine créée par Google a réussi à battre le champion international du jeu de GO !

Déjà, en 1996, l’ordinateur Deep Blue d’IBM battait le champion du monde d’échecs, en étant capable de calculer tous les coups possibles.

Mais tous les jeux ne sont pas aussi purement logiques. Certains introduisent dans leur règles des comportements humains difficiles à déjouer pour une machine.

Le poker est l’un d’entre eux. D’une part, seules quelques cartes sont connues des joueurs, qui doivent estimer les combinaisons des adversaires. D’autre part le bluff est très difficile à mettre en équation !

Il a donc fallu attendre 2017 pour qu’une machine soit capable de simuler et de déceler suffisamment habilement des comportements humains, et battre systématiquement des joueurs professionnels de poker.

Pour le jeu de GO, il était complètement impossible de maîtriser l’ensemble des combinaisons des pions, dont le nombre équivaut à la quantité totale d’atomes dans l’univers ! Alpha GO s’est donc concentré sur le comportement humain. Il a eu l’occasion lors ne nombreuses parties préparatoires auprès de champions mondiaux d’expérimenter et d’apprendre de ses erreurs. Mais surtout de cerner les comportements humains, et de connaître les limites de nos raisonnements. Jusqu’à nous maîtriser complètement.

Alors qu’IBM en 1996 représentait la puissance de calcul capable de balayer toutes les combinaisons et de choisir la meilleure stratégie, Google avec AlphaGO, excelle dans l’analyse de données en masse, l’auto-apprentissage et l’autonomie de raisonnement.

Ce qui est tout à fait stupéfiant, c’est qu’Alpha GO a été en mesure de créer des stratégies nouvelles, dont certaines sont étudiées et désormais reprises par les champions humains ! Les vrais joueurs copient sa stratégie et essayent de comprendre les coups les plus troublants. Comment ont-ils contribué sous des allures d’erreur grossières, à précipiter l’homme à sa perte ? Certains comportements demeurent incompréhensibles encore actuellement et sont toujours à l’étude. On pourrait penser que certains coups au début de la partie étaient parfaitement suicidaires ou inutiles, alors qu’ils ont mené à une victoire écrasante. Pourquoi certains coups perdants ont contribué à la victoire ? L’homme a-t-il été bluffé à son tour ? Certainement.

Curieuse impression laissée par des machines capables de nous battre facilement, sans qu’on soit en mesure de comprendre comment. Des machine capables d’élaborer en toute indépendance des stratégies qui nous dépassent afin de nous tromper.

On peut se demander si une pareille machine pourrait nous gouverner un jour.

On peut se demander si notre intelligence humaine ne finira par être complètement dépassée, pour finir reléguée à l’accomplissement de tâches parcellaires, ou centrée sur nos propres loisirs, à défaut de pouvoir faire mieux. Notre pensée humaine sera-t-elle toujours au niveau ?

Savez-vous qu’un nouveau type de travail humain se développe beaucoup actuellement : celui de validateur de contenu ? Pour un salaire dérisoire de quelques centimes de l’heure, des humains se connectent sur des plateformes comme Amazon Digital Turc, pour y réaliser des tâches simples à la hauteur de notre potentiel, comme la description des éléments d’une image (pour que l’ordinateur en saisisse toutes les caractéristiques), ou la recherche d’une adresse, ou la numérisation de texte. Tâches que l’ordinateur a du mal à réaliser avec un taux d’erreur acceptable.

Devant le péril de voir un jour notre intelligence dépassée par celle de la machine sur notre propre champ de vie, certains comme Elon Musk n’hésitent pas à proposer une amélioration de notre cerveau humain. Celui-ci propose l’utilisation d’implants qui nous permettraient de nous connecter à des calculateurs qui amélioreraient nos performances cognitives ! Nous en sommes très loin. Mais le risque de ne plus suivre l’intelligence artificielle inquiète. Autant que de perdre le sens des travaux qui nous seront alloués par ces machines qui finiront par gérer tout notre quotidien, jusqu’à notre travail. Les assistants personnels vendus par Amazon, Apple et Google commencent à investir doucement le domaine de l’amélioration de notre productivité. Seront-ils bientôt indispensables, comme l’est devenu l’usage de nos smartphones ?

En tout les cas, concernant Alpha GO, Alphabet, la filiale de Google a décidé d’arrêter l’expérience. Leur machine, qui n’a plus rien à prouver, tire sa révérence et quitte le monde du jeu, pour consacrer officiellement son potentiel à la résolution de causes plus importantes. Certainement médicales. Probablement géo-politiques.

La Chine, qui dispose de moyens financiers colossaux, ne perd pas non plus son temps. Tencent (géant de l’Internet chinois) réalise une machine avec un potentiel comparable à celui d’AlphaGO, capable également de mettre au point des stratégies brillantes. Il y a fort à parier que les talents de cette machine appelée Fine Art, trouveront également à terme des utilisation plus stratégiques que le jeu de GO.

Peut-on parler d’une concurrence des intelligences artificielles ? Certainement. Va-t-on engager une course à celui qui maîtrisera le mieux l’échiquier planétaire ?

L’intelligence artificielle, est la capacité donnée à une machine d’aider l’homme à résoudre des problèmes complexes. Elle apprend et s’améliore de manière autonome. Il s’agit du Machine Learning, qui trouve son illustration dans l’apprentissage de la conduite pour les voitures autonomes, qui implique de modéliser les routes et signalétiques, mais aussi les comportements des bons ou mauvais conducteurs dont elle croisera la route en situation réelle.

L’intelligence artificielle trouve sa place dans nos salons ou dans nos smartphones, avec les assistants personnels, capables de reconnaître notre voix, de prendre des rendez-vous ou de commander une table à notre restaurant préféré.

Elle est également présente plus discrètement dans les relations clients. Avez-vous chatté avec le service clients de AliExpress ? Une machine chinoise très efficace vous répond et donne l’impression qu’on échange avec un humain. Pour l’instant elle ne passe pas le test de Tuning, car on peut deviner qu’elle n’est pas humaine, à ses réponses parfois identiques ou son étonnante capacité à répondre comme l’éclair dans un anglais parfait.

Certaines banques ou assurances virtualisent ainsi leurs conseillers, afin de réduire les coûts. Ceux-ci disposent de l’autonomie nécessaire pour accepter ou refuser des prêts en analysant les réponses fournies par les clients.

L’intelligence artificielle permet aussi d’obtenir rapidement des conseils pour appuyer les décisions en entreprise, en analysant des quantités de données phénoménales. De la quantité et de la qualité des données mises à sa disposition dépend la fiabilité de ses décisions. Seules de grosses entreprises sont capables de disposer de la quantité d’informations pertinentes nécessaire. Des cabinets de conseil spécialisés comme le Gartner sont en mesure de fournir des comparaisons chiffrées entre leurs différents clients, et se révèlent particulièrement bien armées pour ce nouveau type de marché.

En entreprise, comme pour tout choix stratégique, la fiabilité des décision dépend complètement de la transparence des informations qui sont mises à sa disposition. Et le dessous des cartes n’est pas toujours exprimé.

On comprend bien l’enjeu de maîtriser un maximum de données. On comprend également que l’intelligence artificielle prenne de plus en plus de pouvoir dans l’organisation de nos vies.

A l’origine, l’intelligence artificielle était un outil puissant pour aider l’homme à dépasser ses limites.

Mais que devient-elle si les priorités qu’on lui assigne sont purement d’ordre compétitifs, comme la recherche d’un profit maximal ou de gagner une guerre économique ? Surtout si l’homme lui donne toute liberté pour créer des stratégies gagnantes qui nous dépassent complètement.

Rappelons que les règles du jeu de GO sont similaires à celles de la socio-dynamique, qui régissent les jeux de pouvoir dans les entreprises et les états. Or, la machine a prouvé qu’elle était capable de créer facilement des stratégies imparables dans ces domaines.

Quel industriel n’a pas songé à l’utiliser pour dégager de substantielles plus-values financières, et conserver une avance concurrentielle ? Quel état ne songerait pas à soutenir ainsi ses fleurons, sa finance, ou sa stratégie ?

Déjà, le monde de la finance est aujourd’hui complètement dématérialisée, et hautement connectée, pour pouvoir réaliser des micro-transactions à une vitesse surhumaine. Dans ce domaine, l’humain est déjà trop lent. Et les bourses sont désormais des data-centers automatisés.

Dans le domaine militaire, les équipements les plus sophistiqués comme les avions de chasse, ou les missiles sont en capacité de répliquer automatiquement, beaucoup plus rapidement que l’humain, si on en leur laisse la possibilité. Les pilotes limitent les capacités des avions, et les drones se développent. Bientôt une guerre commandée à distance sera possible. Ce qui fera la différence, ce sera la capacité à jouer des coups extrêmement élaborés.

Pareillement, nos infrastructures énergétiques sont en cours d’automatisation et sont potentiellement à la merci d’un piratage d’envergure. La machine sera-t-elle en mesure d’apprendre à tout pirater ? Actuellement, des programmes sillonnent déjà le Net à la recherche de failles dans les systèmes vitaux des grandes organisations publiques et privées.

Finalement, seule une autre intelligence artificielle est désormais en capacité de contrer ces machines. L’avance stratégique que l’intelligence artificielle confère aux plus avancés, explique la course qui s’engage pour imposer ses valeurs.

Si certains états son peu regardants sur les limites auxquelles on soumet ces machines, certains peuvent être tentés de la laisser elle-même ajuster ses règles, afin d’être encore plus combative. Exactement le type de scénario catastrophe auquel la science-fiction nous a habitués.

A l’heure où tout est connecté et opérable à distance, un humain est toujours nécessaire pour valider tout acte important, comme un tir de missile ou une décision financière d’envergure. Mais qui peut encore affirmer que cet ultime opérateur humain, l’homme sensé avoir le choix d’appuyer en dernier lieu sur le bouton, ne pourra pas être victime d’un scénario élaboré, d’un coup de bluff ?

Pourtant l’humain sera toujours nécessaire à la machine, ne serait-ce que pour l’entretenir. Même relégué à des tâches subalternes en raison de sa lenteur, il sera toujours nécessaire pour réparer la prise de courant descellée, ou chasser le rongeur qui mange les fils.

Peut-être ne sera-t-il pas nécessaire que l’humain comprenne tout. Mais il sera utile de conserver son confort, pour garantir sa disponibilité. Qu’on se rassure donc, les jeux vidéos et les divertissements grand public n’ont pas fini de nous captiver par leur bêtise !

Les machines pourront peut-être un jour s’accorder pour résoudre d’elles-mêmes le principal problème de l’humanité : les frontières et les barbelés. C’est à dire mettre en commun les ressources pour éviter les conflits.

Il est vrai que cette intelligence peut actuellement sembler sur-humaine.

© Hervé Cuillandre 2017 in Humanisme n°316