Mgr Ébacher XXVII - Magnifica Humanitas - Impact de la révolution numérique sur la liberté humaine

 Dépendances et contrôle social  

« Il ne faut pas sous-estimer les formes les plus subtiles de dépendance liées à l’économie numérique de l’attention, où les plateformes et les services sont conçus pour capter le temps et le regard des utilisateurs, en exploitant leurs fragilités et en affaiblissant leur liberté intérieure. Lorsque des modèles commerciaux prospèrent sur la faiblesse humaine, la personne est traitée comme un moyen et non comme une fin, et ceux qui conçoivent ou financent ces systèmes assument une responsabilité morale à laquelle ils ne peuvent se soustraire. Il est urgent de promouvoir une utilisation des technologies qui renforce la liberté intérieure : éducation à la sobriété numérique, protection des mineurs et lutte contre les modèles qui prospèrent sur la vulnérabilité. »

« Un autre risque, moins visible, mais non moins grave, est celui du contrôle social, rendu possible par la collecte massive de données et l’utilisation de systèmes algorithmiques. Lorsque chaque geste laisse des traces – déplacements, achats, relations, préférences –, un nouveau pouvoir se crée : celui de profiler, de prévoir et d’orienter les comportements, souvent sans que les personnes en aient pleinement conscience. Si ces données sont utilisées pour prendre des décisions qui ont une incidence sur des opportunités concrètes (accès au crédit, recrutement, services), on risque de porter atteinte à la liberté et de discriminer les plus vulnérables. […] La liberté, à l’ère numérique, n’est pas seulement une question intérieure : elle est aussi une question publique, qui exige des règles claires, de la transparence, des voies de recours et des limites proportionnées à l’utilisation de technologies intrusives, afin que la technique reste au service de la personne et ne devienne pas une forme d’emprise des consciences. »

« À l’origine de ces problèmes se trouve une mentalité technocratique et post-humaniste qui tend à considérer la personne comme un objet manipulable ou une ressource à optimiser, en éliminant tout ce qui fixe des limites à la maximisation du profit : ce qui compte, c’est l’efficacité, et non le respect de la liberté et de la dignité humaine. De même certaines logiques d’endettement structurel qui maintiennent des peuples entiers dans des conditions de dépendance, révèlent la même mentalité en acceptant, sous de nouvelles formes, des relations de subordination proches de l’esclavage. »

Briser les chaînes des nouvelles formes d’esclavage

« Rien, dans le monde de l’IA, n’est immatériel ou magique. Chaque réponse qui semble immédiate et parfaite provient d’une longue chaîne de médiations, d’un vaste réseau de ressources naturelles, d’infrastructures énergétiques et, surtout, de personnes. Une part importante du fonctionnement de l’économie numérique repose sur le travail silencieux de millions d’êtres humains, employés à des activités peu visibles, mais essentielles : étiquetage des données, modération des contenus – souvent très mauvais –, apprentissage des modèles. Dans de nombreux cas il s’agit de jeunes, pour la majorité des femmes, qui travaillent laborieusement pour un salaire de misère. À cette fatigue invisible s’ajoute celle, encore plus brutale, de l’extraction des ressources nécessaires à la production des appareils et des microprocesseurs sur lesquels repose l’IA. Dans certaines régions du monde, des enfants et des adolescents travaillent dans des conditions dangereuses au broyage des matériaux dont on tire les terres rares. Des corps marqués, mutilés, utilisés pour que le flux de calcul ne s’interrompe jamais. En outre, des réseaux criminels utilisent des plateformes en ligne, des systèmes de messagerie, des paiements anonymes et des techniques de profilage pour recruter, contrôler et déplacer des victimes de la traite, fréquemment mineures, transformant hommes et femmes en “données” à tracer et en “colis” à déplacer au sein des mêmes circuits numériques qui soutiennent une grande partie de l’économie mondiale. Cette réalité interpelle profondément la conscience morale de notre temps. Il ne suffit pas d’invoquer l’efficacité, ni de célébrer les bienfaits de l’innovation, s’ils reposent sur une chaîne d’exploitation qui reste délibérément invisible. Si une technologie promet l’émancipation, mais produit de nouvelles formes de subordination mondiale, elle contredit le principe fondamental de la dignité de la personne. »

« La lutte contre les nouvelles formes d’esclavage constitue un test décisif pour le discernement éthique de l’IA et de la transformation numérique. Dans le sillage de la tradition inaugurée par Léon XIII, l’Église renouvelle sa condamnation ferme de toute forme d’esclavage, de traite et de marchandisation des personnes, et rappelle l’urgence d’un vaste mouvement de réflexion et d’action qui place au centre la dignité inaliénable de chaque être humain et le bien commun comme fins de la société et comme critères de tout choix personnel, social et politique. Sans cette réflexion éthique et humanisante, le pouvoir croissant des systèmes numériques risque de nous conduire vers de nouvelles atrocités, non moins honteuses que celles du passé que nous déplorons aujourd’hui, alors que nous continuons à nous présenter comme des sociétés “avancées” et “civilisées”. »

« La traite doit être reconnue comme une forme contemporaine d’esclavage et comme une atteinte grave à la dignité humaine; ne pas réagir avec fermeté ou tolérer de quelque manière que ce soit ces pratiques revient, dans une certaine mesure, à se rendre aujourd’hui complice des fautes commises hier, lorsque l’esclavage était justifié ou passé sous silence. […] Si nous ne voulons pas avoir à demander pardon à l’avenir pour ne pas avoir été fidèles au trésor de la dignité humaine que renferme notre foi, c’est à nous aujourd’hui d’être directs et fermes dans la dénonciation de la traite sous ses multiples formes et de soutenir, pas à pas, aux côtés de tous ceux qui s’y engagent, des parcours concrets de prévention, de protection, de libération et de réhabilitation. »

« Le colonialisme revêt de nos jours un visage inédit. Il ne domine pas seulement les corps, mais s’approprie les données, transformant les vies personnelles en informations exploitables. Des territoires entiers, en particulier ceux de moindre importance géopolitique et de plus grande fragilité structurelle, sont actuellement traversés par une nouvelle logique d’extraction : celle des flux sanitaires, profils épidémiologiques, cartes génétiques et données démographiques. Ce sont là les nouvelles “terres rares” du pouvoir : des informations vitales qui, une fois mises en relation, peuvent servir à entraîner des modèles prédictifs, à orienter des stratégies d’investissement, à anticiper les crises et surtout à sélectionner les personnes et les choses qui comptent. Celui qui détient les données sanitaires de populations entières, aujourd’hui souvent collectées sous le couvert de l’aide, de la recherche ou de l’innovation, détient en réalité un levier structurel sur l’avenir : il peut modeler les besoins et les marchés. Et il peut décider, avant les autres, à qui destiner les médicaments, les investissements et les protections. C’est là que se joue l’un des enjeux moraux les plus urgents de notre époque : transformer la connaissance partagée en bien commun, et non en levier de domination; rendre aux peuples non seulement les données qui les décrivent, mais aussi la possibilité de décider comment elles seront utilisées, par qui et pour qui. Autrement, l’ère numérique ne sera pas postcoloniale, mais coloniale sous une nouvelle forme. »

« Les nouvelles formes d’esclavage se nourrissent de chaînes économiques et d’infrastructures numériques. Il faut donc œuvrer dans plusieurs directions : tout d’abord, en renforçant les exigences en matière de transparence des filières qui soutiennent l’industrie technologique et l’économie numérique, afin qu’aucun avantage concurrentiel ne repose sur une exploitation invisible. Deuxièmement, il est nécessaire que les entreprises et les investisseurs adoptent des critères clairs de vérification éthique préventive, en incluant parmi leurs priorités la protection des travailleurs, la lutte contre le travail forcé et l’impact social des modèles d’entreprise basés sur les données. En outre, les plateformes numériques doivent être appelées à coopérer de manière responsable avec les autorités et la société civile afin d’empêcher que les outils de communication, de paiement et de ciblage ne deviennent des canaux de recrutement et de contrôle des victimes. Lorsque ces choix convergent, l’environnement numérique peut se transformer d’un espace de prédation en un espace de protection, de prévention et de promotion de la dignité. »

Une responsabilité partagée

« Les différents domaines abordés – la recherche de la vérité dans la vie publique, l’éducation dans l’environnement numérique, les transformations du monde du travail, la fragilité des familles et les nouvelles formes d’esclavage – ne constituent pas des phénomènes isolés. Ils manifestent le même enjeu : si la technique devient un critère absolu, la personne risque d’être traitée comme une donnée, un engrenage ou une marchandise; si, au contraire, la technique s’inscrit dans une perspective de sagesse, elle peut devenir une occasion de croissance, de justice et de fraternité. » (180)

« Dans cette perspective, la Doctrine sociale de l’Église prône une responsabilité partagée. Elle demande que ces processus soient conduits avec clairvoyance : par des institutions capables de réguler sans étouffer et de protéger sans se substituer; par des entreprises qui reconnaissent dans le travail et la dignité un critère de réussite; par des corps intermédiaires et des communautés éducatives qui rétablissent la confiance et les liens; par des citoyens qui cultivent la responsabilité, la sobriété, le discernement et le sens de la vérité. Ce n’est qu’ainsi que l’innovation pourra véritablement devenir un développement humain intégral et non un facteur d’exclusion et de domination; et ce n’est qu’ainsi que la promesse du progrès pourra être reconnue comme vraie, car mesurée à l’aune de la dignité inviolable de chaque homme et de chaque femme. »

À suivre

† Roger Ébacher