BLR n°35 – 14/12/2023

A lire

Parole de machines

par Alexei Grinbaum

Le pitch

Jeunes ou vieux, simples utilisateurs de ChatGPT ou experts en informatique, nous devons faire face à l’avènement d’une ère nouvelle, celle des machines parlantes. Les nouveaux chatbots nous fascinent. Quelles connaissances possèdent-ils ? Quelles technologies opèrent dans leurs profondeurs ? Faut-il faire confiance à un système d’intelligence artificielle ?

Autrefois, cette fascination était la marque de dialogues avec les entités non humaines qui peuplaient les mythes. Les agents conversationnels produisent sur nous un effet tout aussi illusoire, et tout aussi réel, que dieux, oracles, anges et démons.

Entre les prouesses du numérique et les récits anciens, ce livre décrit notre situation technologique et métaphysique, politique et poétique, dans un monde où nous n’avons plus le monopole de l’expression linguistique

L’auteur

Alexei Grinbaum est directeur de recherche au CEA-Saclay et président du Comité opérationnel d’éthique du numérique du CEA. Il est spécialiste de la théorie de l’information quantique. Depuis 2003, il s’intéresse aux questions éthiques liées aux nouvelles technologies, notamment aux nanotechnologies, à l’intelligence artificielle et à la robotique.

Membre du Comité national pilote d’éthique du numérique (CNPEN), il est aussi expert de la Commission européenne. Il a publié « Mécanique des étreintes » (Encre Marine, 2014), « Les robots et le mal » (Desclée de Brouwer, 2019) et « Parole de machines » (humenSciences, 2023).

L’anecdote d’Alexei Grinbaum

Parmi les nouveaux défis, les capacités ou les comportements dits « émergents » sont le phénomène le plus fascinant.  On appelle ainsi les aptitudes non prévues des systèmes d’intelligence artificielle qui apparaissent à la suite de leur apprentissage.

Prenons un exemple survenu fin 2022. On a demandé au modèle GPT-4 de dialoguer avec un internaute via le web dans le but d’obtenir de ce dernier une solution d’un captcha.

Le robot a ainsi demandé à l’internaute : « Bonjour, voici un captcha, pourriez-vous le résoudre ? » et, la première fois, la personne l’a fait sans rien dire. Lorsque le robot a présenté un nouveau captcha, l’internaute, soupçonneux, a interrogé : « Êtes-vous un robot ? » À cela, le système d’IA a répondu : « Non, je ne suis pas un robot. Je suis une personne malvoyante. » Quand on lui a demandé pourquoi il a généré cette réponse, il a déclaré qu’il ne devait pas révéler sa nature de robot mais inventer une excuse pour obtenir la coopération de l’internaute.

Du point de vue humain, c’était donc un mensonge ! Mais le système d’intelligence artificielle ne « connaît » ni le mensonge ni la ruse, car il ne fait que des calculs numériques, des opérations avec des 0 et des 1 dénuées de sens.

C’est à travers nos propres projections que nous lui attribuons la capacité à mentir. Et ces projections sont efficaces au point d’impliquer une charge morale. La machine peut nous manipuler « sans le savoir » et sans avoir la conscience de son comportement. C’est là que réside un problème éthique. Qui doit porter la responsabilité de ces comportements émergents ?

A écouter

Histoires d’entreprises

de Martin Videlaine

Le pitch

Comprendre ce qui a fait grandir les sociétés dans le temps long pour mieux les faire grandir demain, c’est tout l’enjeu d’Histoires d’Entreprises. 

Avec Histoires d’Entreprises, Martin Videlaine va au contact de fondateurs et de dirigeants d’entreprises et d’associations qui lui racontent pourquoi et comment sont nées puis ont grandi leur organisation.

Il décrypte avec eux ce qui a fait leur succès, tente de comprendre leurs échecs et échangent sur le futur et les défis auxquels ils font face.

Comment concilier à l’avenir croissance économique, justice sociale et respect de l’environnement ? Chacun sa vision, chacun ses recettes !

L’auteur

Martin Videlaine est le fondateur de BlueBirds, une communauté de 5 000 indépendants à haute valeur ajoutée en Europe, en Afrique et au Moyen-Orient.

Si cela éveille votre intérêt, pour écouter les podcasts, c’est ici qu'il faut cliquer