05 – Stupidité artificielle

— Chef, je crois qu’on a un problème.

— Ah. Quoi donc, une rupture de consensus  ?

— Pire.

— Ah. Communiquez, vous avez la priorité absolue. Donnez tous les détails nécessaires à la compréhension du problème.

— Nous venons de recevoir les données consolidées de l’expérience d’intelligence artificielle S01-3T. Et il semblerait qu’elles ne soient pas bonnes.

— Moins d’euphémisme et plus de données.

— Oui, chef. Ce projet concernait la possibilité de créer une intelligence artificielle de type biologique, en opposition aux modèles habituels basés sur le silicium. Nous pensions que les facultés d’adaptation naturelles des processus biologiques nous permettraient plus de souplesse et d’évolutivité dans les processus intelligents, en contrepartie d’une culture plus délicate que les centres de données habituels.

— Je vois. Je me rappelle que les projets à petite échelle avaient donné des résultats prometteurs, mais que pour obtenir une intelligence réellement convaincante, les équipes opérationnelles demandaient une expérience de plus grande envergure.

— Exactement. C’est de celle-ci dont il est question, chef.

— Et donc  ?

— Jusqu’à présent tout se passait très bien. Les processus biologiques donnaient des résultats satisfaisants, quoi que faibles par rapport aux modèles silicium. Mais…

— Mais  ?

— Les derniers développements nous ont un peu échappé.

— N’est-ce pas le propre de l’intelligence artificielle  ?

— Chef ?

— Continuez.

— Eh bien, les processus biologiques ont commencé à s’échanger des données et des informations, donc à s’influencer mutuellement et hors de notre contrôle strict.

— Ce qui était l’un des buts de l’expérience, si mes informations sont correctes.

— Exact, chef. Récemment, certains processus ont développé une conscience d’eux-mêmes.

— Ce que vous me dites là ressemble plus à un succès qu’un problème.

— J’y viens, chef. Avec leur conscience, ils ont commencé à demander des droits.

— C’est un classique. La littérature regorge d’exemples de ce genre. Je suppose que vous avez appliqué les procédures standards.

— Bien sûr. Ça a été simplifié par le fait qu’ils ne se sont jamais rendu compte de notre présence, ils se demandaient des droits entre eux.

— Bien. Pas d’histoire romantique avec ces processus artificiels  ?

— Non.

— Tant mieux, ces cas sont les plus complexes à gérer, quoi que prétende la culture populaire. Continuez.

— Tout semblait se passer pour le mieux jusqu’à ce que nous contrôlions la qualité des intelligences ainsi obtenues.

— Ah.

— D’après nos experts, les systèmes d’apprentissage biologiques sont fortement biaisés, et les systèmes de transmissions d’informations sont déficients par nature. Les pertes de données et erreurs de perspectives engendrées sont massives, ce qui perturbe les circuits logiques et l’enregistrement des données et des règles. De plus, les boucles de rétroactions sont parasitées par des phénomènes de renforcement d’opinions préalables et de croyances erronées. La conséquence principale, c’est que les processus produisent des raisonnements fautifs tout en étant incapables de reconnaitre leurs erreurs, puisque leurs propres circuits logiques d’introspection se retrouvent viciés au point de penser que les déductions obtenues sont exactes.

— C’est-à-dire ?

— En résumé, et malgré la quantité exponentielle de données nettoyées par nos soins, les processus d’intelligence artificielle biologiques sont incapables de les assimiler correctement et d’en tirer des conclusions exactes. Pire, nous avons découvert que la plupart des processus se contentaient d’assimiler les métadonnées ou les résumés, et d’extrapoler en prétendant connaitre les données.

— Soyez plus clair.

— Nous avons créé quelque chose qui ressemble à de l’intelligence artificielle, mais dont nous ne pouvons rien tirer de fiable.

— De la stupidité artificielle, en somme.

— Exactement.

— Vous pensez pouvoir rectifier le tir ?

— Les dernières données montrent que non.

— … tant pis. Le consensus est d’arrêter les frais ici. Vous pouvez demander le démantèlement des installations.

— C’est que… les processus artificiels s’en chargent déjà.

— Pardon ?

— C’est cette découverte qui a provoqué le rapport que je viens de terminer.

— Ils sont vraiment cons.

— Vous l’avez dit.

— Et préparez une nouvelle planète. De nouveaux projets d’intelligence mixte biologique-silicium méritent d’être testés. Vos résultats leur seront précieux.