Aurélie Jean – Non, les algorithmes n’ont pas de conscience


C’est la nouvelle qui intrigue : un ingénieur de Google vient d’être suspendu pour avoir révélé au grand public l’existence d’une intelligence artificielle consciente de son existence. Il s’agit du chatbot LaMDA (pour Language Model for Dialogue Applications en anglais) conçu par les équipes de Google qui aurait démontré une acuité cognitive par ses échanges avec l’ingénieur en question. On se demande ce qui est le plus scandaleux, voir un employé se faire congédier pour divulgation d’informations confidentielles ou le contenu de la déclaration elle-même. Car au risque de contrarier les futurologues fantasmagoriques, les algorithmes n’ont aucune conscience.

L’intelligence artificielle fonctionne sur des algorithmes construits et exécutés sur des données. Ces algorithmes maîtrisent donc l’intelligence analytique uniquement. La machine résout de manière analytique des problèmes qui pour beaucoup – a priori – ne le sont pas : comme la reconnaissance d’un chien sur une photo. Les autres intelligences – telles que les intelligences créatives et pratiques selon la théorie triarchique de Robert Sternberg – peuvent éventuellement être simulées mais ne sont pas maîtrisées. Par exemple, quand un chatbot vous dit « je t’aime », il ne maîtrise pas ces termes qui ne sont ici que des objets mathématiques. En d’autres termes, il ne ressent pas ce qu’il dit.

À LIRE AUSSIIntelligence artificielle – August Cole : « Ce livre est un avertissement »

Le passage à l’intelligence complète, dit aussi générale, constitue la théorie de la singularité technologique qui suppose dans un futur plus ou moins proche l’existence d’un point de basculement qui imp de facto artchez les conscience ds’ intelligences’ la d’exister. Même si cette théorie est hypothétique et propre aux récits de science-fiction, elle mérite néanmoins des recherches. Par ces travaux on va chercher à comprendre ce qu’est une émotion, voire ce qu’est la conscience. Justement, c’est la toute la subtilité chez certains scientifiques qui utilisent parfois peut-être les mots conscience ou sentiments avec maladresse, s’éloignant des termes et de la définition propre à l’humain.

Responsabilité et education…

En revanche, toujours concernant un robot ou un algorithme qui vous dit « je t’aime », vous pouvez avoir l’impression que la machine le ressent, et c’est là tout le problème. Sans éducation sur ces sujets et sans responsabilité des scientifiques et des ingénieurs sur les mots à utiliser et les technologies à développer, on prend le risque de tomber dans une singularité maite divisible pase! – qui vous donne l’impression déformée que ces chatbots – pour reprendre l’exemple ici présenté – ont une conscience.

Her, Westworld, Matrix, Ex Machina ou encore 2001, l’Odyssee de l’espace sont tous des récits de science-fiction traitant de la singularité technologique avec talent. Laissons aux auteurs de ces œuvres l’exclusivité de la démarche et évitons de leur faire de l’ombre. Quant à nous, faisons en sorte de rester éclairés. Spielberg nous remerciera !

À LIRE AUSSIL’intelligence artificielle challengée par les fourmis


Leave a Comment