Mgr Ébacher XVIII - Préserver les voix et les visages humains
L’enjeu de l’intelligence artificielle est de préserver l’humain! Telle est l’interpellation insistante du pape Léon XIV dans son message pour la 60e Journée Mondiale des Communications Sociales[1]. Par ce message, le pape appelle à un sursaut de l’humain face à la révolution provoquée par l’intelligence artificielle. Si nous négligeons de préserver les visages et les voix humaines, l’intelligence artificielle risque de modifier radicalement certains des piliers fondamentaux de la civilisation humaine.
Accueillir avec courage, détermination et discernement les
opportunités offertes par la technologie numérique et l’intelligence
artificielle ne signifie pas se voiler la face sur les points critiques, les
opacités, les risques.
« La question qui nous tient à cœur, n’est pas ce que
la machine peut ou pourra faire, mais ce que nous pouvons et pourrons faire, en
grandissant en humanité et en connaissance, grâce à une utilisation judicieuse
des outils puissants à notre service. […] Renoncer au processus créatif et
céder aux machines ses fonctions mentales et son imagination signifie enterrer
les talents que nous avons reçus afin de grandir en tant que personnes en
relation avec Dieu et les autres. Cela signifie cacher notre visage et faire
taire notre voix. »
Le pape met en garde contre une technologie qui pourrait
simuler des voix et des visages humains, manipuler les émotions, affaiblir la
pensée critique, envahir l’intimité, amplifier la désinformation, centraliser
le pouvoir entre quelques acteurs. Il rappelle que l’IA, aussi puissante
soit-elle, ne peut remplacer l’empathie, l’éthique et la responsabilité morale,
qui sont proprement humaines.
« Le visage et la voix sont des traits uniques et
distinctifs de chaque personne; ils manifestent son identité singulière et sont
l’élément constitutif de toute rencontre. […] Nous ne sommes pas une espèce
faite d’algorithmes biochimiques définis à l’avance. Chacun de nous a une
vocation irremplaçable et inimitable qui ressort de la vie et se manifeste
précisément dans la communication avec les autres. »
« Les voix et les visages humains, la sagesse et la
connaissance, la conscience et la responsabilité, l’empathie et l’amitié étant
simulés par des systèmes connus sous le nom d’intelligence artificielle,
ceux-ci interfèrent non seulement dans les écosystèmes informationnels, mais
envahissent également le niveau le plus profond de la communication, celui des
relations entre les personnes humaines. »
« Le défi qui
nous attend n’est pas d’arrêter l’innovation numérique, mais de la guider en
étant conscients de son caractère ambivalent. Il appartient à chacun d’entre
nous d’élever la voix pour défendre les personnes humaines afin que ces outils
puissent véritablement être intégrés comme des alliés. » C’est là une responsabilité collective.
« Toutes les parties prenantes – de l’industrie technologique aux
législateurs, des entreprises créatives au monde universitaire, des artistes
aux journalistes, en passant par les éducateurs – doivent être impliquées dans
la construction et la mise en œuvre d’une citoyenneté numérique consciente et
responsable. […] Il appartient à chacun d’entre nous d’élever la voix pour
défendre les personnes humaines afin que ces outils puissent véritablement être
intégrés comme des alliés. Cette alliance est possible, mais elle doit reposer sur trois piliers : la
responsabilité, la coopération et l’éducation. »
La responsabilité.
« Personne ne peut se soustraire à sa propre responsabilité face à
l’avenir que nous construisons. » Le pape nomme ceux qui sont à la tête des
plateformes en ligne, les créateurs et modèles d’IA, les législateurs nationaux
et les régulateurs internationaux, les entreprises du secteur des médias et de
la communication. « Celle-ci peut se décliner, selon les rôles, en
honnêteté, transparence, courage, capacité de vision, devoir de partager les
connaissances, droit d’être informé. »
La coopération. « Aucun
secteur ne peut relever seul le défi de mener l’innovation numérique et la
gouvernance de l’IA. Il est donc nécessaire de créer des mécanismes de
sauvegarde. Toutes les parties prenantes – de l’industrie technologique aux
législateurs, des entreprises créatives au monde universitaire, des artistes
aux journalistes, en passant par les éducateurs – doivent être impliquées dans
la construction et la mise en œuvre d’une citoyenneté numérique consciente et
responsable. »
L’éducation. Son
rôle est d’« accroître nos capacités personnelles à réfléchir de manière
critique, à évaluer la fiabilité des sources et les intérêts potentiels qui
sous-tendent la sélection des informations qui nous parviennent, à comprendre
les mécanismes psychologiques qu’elles activent, à permettre à nos familles,
communautés et associations, d’élaborer des critères pratiques pour une culture
de la communication plus saine et plus responsable. »
« Tout comme la révolution industrielle exigeait une
alphabétisation de base pour permettre aux personnes de réagir à la nouveauté,
la révolution numérique exige également une alphabétisation numérique (ainsi
qu’une formation humaniste et culturelle) pour comprendre comment les
algorithmes modèlent notre perception de la réalité, comment fonctionnent les
préjugés de l’IA, quels sont les mécanismes qui déterminent l’apparition de
certains contenus dans nos flux d’informations (feed), quels sont les présupposés
et les modèles économiques de l’IA et en quoi ils peuvent changer. »
Et le pape Léon XIV termine ce plaidoyer ferme, amical,
fervent et chaleureux en ces termes : « Nous avons besoin que le
visage et la voix redisent la personne. Nous avons besoin de préserver le don
de la communication comme la vérité la plus profonde de l’homme vers laquelle
orienter toute innovation technologique. »
En bref
Le message du pape Léon XIV est un appel puissant et
insistant à protéger la dignité humaine
dans un monde où l’intelligence artificielle transforme la communication.
Préserver les voix et les visages humains, c’est préserver notre vocation unique venue de Dieu et sacrée :
notre capacité d’aimer, de penser et de rencontrer l’autre.[2]
J’ajoute que le pape a publié le lundi 25 mai sa première
encyclique : LETTRE ENCYCLIQUE MAGNIFICA HUMANITAS DU SAINT-PÈRE LÉON
XIV SUR LA PROTECTION DE LA PERSONNE HUMAINE À L'ÈRE DE L'INTELLIGENCE
ARTIFICIELLE[3].
C’est un document essentiel pour bien œuvrer à notre époque du numérique de
l’IA. J’y reviendrai.
† Roger Ébacher
[2]
Pour une réflexion intéressante sur la voix à la radio, voir le document du
directeur adjoint du dicastère pour les communications Alessandro
Gisotti : La
Radio à l’épreuve de l’intelligence artificielle - Vatican News Ce texte
éclaire une dimension du discours du pape ici résumé. Il affirme que la radio
survivra à l’IA en restant fidèle à ce qui fait sa force : la voix
humaine, vivante, incarnée. L’IA peut enrichir la production, mais ne doit pas
remplacer la dimension humaine qui fonde la relation entre la radio et ses
auditeurs.
.png)
J’ai vraiment aimé cette réflexion. En la lisant, je me suis rendu compte à quel point nous parlons souvent de l’intelligence artificielle en nous demandant ce qu’elle pourra faire demain, mais beaucoup plus rarement de ce qu’elle risque de nous faire perdre si nous ne faisons pas attention.
RépondreSupprimerLe passage sur les visages et les voix humaines m’a particulièrement touché. Dans un monde où il devient possible d’imiter presque tout, il est rassurant de se rappeler que chaque personne demeure unique et irremplaçable. Une voix humaine, un regard, une présence, une conversation sincère ne peuvent pas être remplacés par une machine, aussi perfectionnée soit-elle.
J’ai aussi apprécié le ton de cet article. Il ne rejette pas la technologie et ne cherche pas à faire peur. Au contraire, il invite à l’utiliser avec intelligence et responsabilité, tout en gardant l’être humain au centre. C’est une approche équilibrée que l’on entend malheureusement trop peu dans les débats actuels.
La réflexion sur l’éducation m’a également fait réfléchir. Nous avons besoin d’apprendre à utiliser ces nouveaux outils, mais surtout à continuer de penser par nous-mêmes, à développer notre jugement et notre esprit critique. Ce sont des qualités qu’aucune intelligence artificielle ne pourra nous donner à notre place.
Merci pour ce beau résumé du message du pape Léon XIV. Il nous rappelle une vérité simple mais essentielle : le progrès n’a de sens que s’il nous aide à devenir davantage humains, et non l’inverse.
bonjour et merci à nouveau, Anne, pour votre grande attention aux textes sur l'IA. Je vois que vous y détectez beaucoup de sagesse. Notre pape apporte des réflexions d'un grand prix.
Supprimer