Comment définiriez-vous l’intelligence artificielle (IA) ?
Je crois que c’est là tout l’enjeu des questions que pose l’IA, au fond. Si vous regardez l’histoire de l’IA depuis les années 1950, la question de la définition même de cette recherche a toujours été débattue. Le plus souvent, le débat renvoie au seul domaine technique : pour l’intelligence artificielle, l’humain doit-il être pris comme modèle ou faut-il chercher ailleurs ? L’IA simule-t-elle ou réplique-t-elle l’intelligence humaine ? Doit-on viser une entière autonomie ou simplement tendre vers une automatisation élevée ? Réduire l’IA à des tentatives de définition technique ne permet guère d’en interroger le sens ou les mises en œuvre.
Pour ma part, je préfère considérer l’IA comme un champ de recherche en tant que tel, vaste certes, mais où le questionnement (philosophique, éthique, théologique…) reprend toute sa place. Ainsi peut-on questionner les objectifs de telle ou telle recherche, la méthodologie de tel projet, la vision anthropologique de telle technologie.
Que donneriez-vous comme exemples plus précis de questionnements que l’on peut avoir au sujet de l’IA ?
Ce sont souvent des interpellations qui tournent autour de quelques questions : pourquoi concevez-vous l’humain de telle manière ? Pourquoi vous focalisez-vous sur tels problèmes ? Pourquoi ignorez-vous telles questions ou évacuez-vous de votre recherche telles catégories de personnes ? Il y a quelques mois, il y a eu de vifs débats autour des biais des algorithmes de recrutement chez Amazon (un algorithme est un ensemble de règles opératoires dont l’application permet de résoudre un problème énoncé au moyen d’un nombre fini d’opérations). À partir de big data (analyse de très grands volumes de données informatiques), le géant de la vente en ligne avait développé des aides pour recruter ses nouveaux ingénieurs et techniciens. Il s’est avéré que ce processus de recrutement assisté par l’informatique était sexiste, raciste, etc. La méthodologie de ce projet, basée sur des données et des statistiques qui sont celles de notre monde, répétait les biais et les travers de notre civilisation, où règnent des discriminations de races, de genres, d’orientation sexuelle, de milieu social d’origine, de parcours scolaires… Les biais algorithmiques ne sont rien d’autre que des biais humains. Comment pourrait-il en être autrement au sein de la communauté des développeurs qui reste grosso modo une communauté de personnes qui « cochent toutes les bonnes cases » ?
(© Lucile)
Les problèmes méthodologiques sont-ils selon vous les plus importants que pose l’IA ?
Ils ne sont peut-être que les plus visibles, mais la question des financements de la recherche en IA et des objectifs poursuivis est une question cruciale. Pour ma part, j’ai commencé à m’intéresser à ce champ de recherche après avoir lu Wired for war (non traduit en français), du chercheur américain P-W. Singer. Cela m’a ouvert les yeux et a changé ma vision du monde sur l’impact de ces technologies. Ce livre démontre que l’essentiel des recherches en IA est conduit par des intérêts militaires. En tant que théologienne, je trouve inacceptable que les facteurs de motivation dans ce champ de recherche soient, si massivement, la propagation de conflits armés et de violence, la sécurité et la défense nationale…
Comment la théologie peut-elle répondre à ces enjeux posés par l’IA ?
Au-delà des questions éthiques déjà mentionnées, il me semble que la théologie est déjà bien « équipée » pour y répondre, pas seulement pour réfléchir à l’aspect technologique. Les théologies contextuelles, par exemple, ont déjà esquissé des réponses. Les théologiens et les Églises sont des « experts » sur les questions de Création ou d’humanité, de communauté humaine ou de discernement. Ils portent une certaine sagesse au sujet de l’humain et un souci de ceux qui sont marginalisés. On peut certainement se tourner vers la théologie de la Libération, avec son « option préférentielle pour les pauvres », comme un impératif évangélique à vivre. L’autre grand moteur du développement de l’IA ces dernières années, à côté de la recherche militaire, c’est simplement la recherche de profits financiers. On estime que 34 % des profits générés par Amazon – encore… mais c’est l’un des leaders dans la recherche sur l’IA – sont issus des algorithmes sur son site. Cette technologie pointue lui permet de vous faire dépenser plus en vous proposant des produits qui pourront « certainement vous intéresser ». Les chrétiens peuvent légitimement interroger ce modèle, basé sur le profit et tourné vers la consommation massive, alors que les enjeux écologiques sont aujourd’hui si prégnants pour des milliards d’habitants de notre planète. Je crois que les théologiens et les Églises devraient oser réfléchir aux enjeux de l’IA avec beaucoup plus de confiance qu’ils ne le font pour le moment ; ils ont beaucoup à offrir.
Beaucoup de projets dans l’IA semblent pourtant promouvoir des améliorations pour le commun de l’humanité…
Je relis avec beaucoup d’intérêt en ce moment les ouvrages de Sallie McFague (théologienne anglicane qui a enseigné à Vancouver au Canada, décédée en novembre 2019, pas éditée en français). Son approche écothéologique féministe permet d’interroger de manière pertinente ce que les développeurs en IA considèrent comme étant le « commun de l’humanité ». Souvent, lorsqu’ils conçoivent des prothèses ou des objets permettant d’augmenter les capacités corporelles humaines, ils envisagent une sorte de « personne moyenne ». Cette définition même exclut, de fait, une grande partie de l’humanité qui ne correspond pas à ces canons idéaux, ne tenant compte ni de la variété de notre humanité ni des possibles handicaps des uns ou des autres. Sallie McFague rappelle que l’humanité est avant tout diverse et variée, et n’est pas un grand tout « moyen » et indistinct.
Faut-il par conséquent avoir peur de l’IA ou espérer en ses promesses ?
Nous avons déjà de nombreuses preuves que les technologies de l’IA peuvent être destructrices. Souvenons-nous du rôle des algorithmes dans la crise financière et économique de 2008-2009 ou dans la manipulation de processus électoraux (Brexit, élections présidentielles aux USA ou au Nigéria…). Tout cela fait courir des risques démocratiques. Fondamentalement, je pense que les chrétiens ne choisissent pas de vivre dans l’espérance ; nous sommes au fond le peuple d’une espérance radicale. En cela, il nous faut reconnaître humblement que nous n’avons peut-être pas à « arrêter » le développement de ces technologies, mais que nous pouvons questionner sans cesse le sens de leur usage au service de l’humain et de la Création.
* PhD : appellation internationale du doctorat.
