L’IA, les métaverses et l’éthique : les 35 propositions de Respect Zone
par Sandrine Richard
Photo couverture : Sandrine Richard, membre du bureau et responsable des alliances stratégiques et des études au sein de Respect Zone avec Marco Landy, ancien président mondial d’Apple Computer en charge des opérations, du marketing et des ventes, fondateur et président de la fondation de l’institut EuropIA.
BLR n°26 – 16/02/2023
Les progrès devraient toujours rimer avec respect. Aujourd’hui, nous assistons notamment à travers l’actualité liée à chatGPT à diverses polémiques concernant les dangers de l’intelligence artificielle (IA) et les dérives possibles. Cette crainte sociétale vis-à-vis des systèmes d’intelligences artificielles est liée à l’absence de cadre légal et à la peur universelle de l’inconnu.
C’est pourquoi, ce rapport – élaboré sous forme de toolkit – a été conçu afin de construire un métaverse respectueux permettant d’anticiper les dérives. Nous avons conçu des outils pour créer un cadre d’engagement en faveur du respect des droits humain numériques et de la diversité dans les métaverses. Comme pour l’IA de confiance, nous devons construire un métaverse de confiance.
Ces 35 propositions “pratiques” résultent de la synthèse d’un questionnaire que nous avons élaboré, après avoir auditionné 44 experts issus de différents secteurs.
Un accent particulier a été mis sur la prévention, l’éducation et la formation. Il s’agit d’une approche de “design thinking » participative, agile, outillée, centrée sur les usages et nourrie des auditions d’experts issus de différents secteurs pluridisciplinaires.
Ce rapport offre aussi des pistes de méthodes à l’usage des opérateurs et structures intéressés par la sécurisation des metaverses et qui souhaitent placer l’éthique numérique au cœur de leur organisation et leurs systèmes. Enfin, les co-rapporteurs ouvrent la discussion sur le rôle que peut jouer l’éthique numérique dans les décisions stratégiques des entreprises et leur écosystème. Ils proposent ainsi une méthode permettant la mise en action de cette éthique mesurable par la signature d’une charte à engagements précis, responsables et mesurables, pour les usagers et leurs avatars, sur la base des expériences pratiques réalisées avec les actions positives et les nudges (incitations) utiles aux réseaux sociaux.
Le rapport conduit également à s’interroger sur les enjeux qui seront liés demain à l’interopérabilité et donc à l’implication de chaque opérateur privé et public. Respect Zone propose ici de remédier en amont aux risques de toxicité des comportements des usagers dans les métaverses, en définissant des standards communs minimaux de protection des métaverses (garantie en responsabilité, respect et diversité). Dans la continuité de notre approche holistique, nous avons lancé une charte du Métarespect et un appel en vue d’obtenir un partenariat Public-Privé-Société civile. Le but est de construire ensemble une architecture internationale, interdisciplinaire, intersectorielle, intégrative et durable.
Pour conclure, tant que l’humain est au cœur de la décision, ces outils numériques sont fortement utiles à la société. L’éthique qui nous gouverne est donc la ligne rouge à ne jamais dépasser.
David Gruson, quels sont les enjeux du Métaverse en matière de santé ?
Dans le domaine de la santé, les principaux cas d’usage devraient porter sur les nouvelles approches de formation par simulation immersive des professions médicales et paramédicales. Cela permettra d’ouvrir largement le champ des possibles pour renouveler les méthodologies d’apprentissage, en présentiel et en distanciel. D’autres cas applicatifs sont également envisageables dans l’observance des traitements s’agissant des maladies chroniques et métaboliques mais nous sommes moins avancés à ce stade. En tout état de cause, dès lors que ces usages du Métaverse auront recours à des traitements algorithmiques – ce qui sera le cas par principe – ils devront, sur le plan éthique, respecter l’article 17 de la loi de bioéthique et les futurs articles 14 et 29 de l’AI Act européen en prévoyant une supervision humaine effective dès leur conception et dans leur application en vie réelle.
Philippe Goossens, quelles sont les implications possibles pour les entreprises ?
Le métaverse n’est pas un univers virtuel, mais une continuation numérique du monde réel pour les entreprises, leurs dirigeants et leurs employés. Il reviendra dès lors aux entreprises de déployer dans le métaverse un système de normes éthiques, de sanctions et de contrôles garantissant le respect des règles légales et internes, tout en respectant la vie privée. Ces solutions impliqueront des actions en matière de RSE, de code de conduite, de système d’alerte, de gestion des risques psychosociaux par la création ou l’adaptation de normes en accord avec les spécificités des technologies nouvelles.
Marco Landy, quels sont pour vous les atouts liés au Métaverse ?
Les atouts liés au Métaverse sont nombreux : l’immersif pour faire vivre une expérience incomparable. En culture pour la visite de musées, de lieux ou d’œuvres d’art inaccessibles.
En revanche, il faut que le Métaverse reste un outil au service de l’humanité. Pour cela, l’éthique est indispensable. Il faut très vite légiférer afin d’encadrer cette technologie et ainsi éviter tout abus, comme nous pouvons le voir aujourd’hui.
Marco Landi
Pour soigner certaines maladies ou peurs. Et d’autres champs du possible… En revanche, il faut que le Métaverse reste un outil au service de l’humanité. Pour cela, l’éthique est indispensable. Il faut très vite légiférer afin d’encadrer cette technologie et ainsi éviter tout abus, comme nous pouvons le voir aujourd’hui.
Marco LANDI et David GRUSON sont les premiers à avoir ratifié la Charte du Métarespect, Respect Zone.
Biographie
Sandrine Richard a exercé la profession d’avocat au Barreau de Paris durant plus de 10 ans jusqu’au 1er Septembre 2021, avant d’intégrer la société Cristal Group International en qualité de directrice de l’éthique des affaires et de la diplomatie d’affaires jusqu’au 31 décembre 2022. Elle est également certifiée comme auditrice et conseillère chez ETHIC Intelligence (auditrice accréditée à Washington DC dans les normes anti-corruption (ISO 37001 et 19600).
Enfin, elle est en charge de la formation « Intégrité scientifique et lutte contre la fraude scientifique » à l’Université de Paris.L Elle intervient également à l’Université Paris II Panthéon-Assas concernant « la souveraineté industrielle et le RGPD » et enfin au sein de l’INHESJ concernant les outils de lutte contre la corruption.
Elle est co-rapporteur du rapport sur le Métaverse et droits humains pour Respect Zone. Elle est également membre du bureau et responsable des alliances stratégiques et des études au sein de Respect Zone.
Elle est très investie dans l’éthique de l’IA. Elle intervient notamment à l’Université d’Ottawa et Mc Gill sur ces sujets.
David Gruson ancien élève de l’Ecole nationale d’administration et de l’Ecole des hautes études en santé publique, David GRUSON est directeur du programme Santé du groupe Jouve, spécialisé dans la transformation digitale. Il a exercé plusieurs postes à responsabilité dans les domaines des politiques publiques et de la santé. Il a, en particulier, été conseiller du Premier ministre chargé de la santé et de l’autonomie (2010-2012) et directeur général du Centre hospitalier universitaire de La Réunion (2012-2016). Il est professeur à la Chaire santé de Sciences Po Paris. Il est le fondateur d’Ethik-IA qui vient de lancer le premier label européen de conformité en garantie humaine de l’IA.