Humanity’s Last Exam propose un test de raisonnement déductif exigeant pour les modèles d’IA, comportant 2 500 questions allant des mathématiques et de la physique à la chimie, aux sciences humaines et plus encore.
Près de deux ans après sa sortie, frère Gerrit W. Gong du Collège des douze apôtres appelle à une nouvelle façon tout aussi puissante de tester les modèles d’IA sur leur raisonnement moral.
« Ce dont nous avons encore plus besoin, c’est le premier examen de l’humanité », a dit frère Gong le samedi 17 octobre, lors d’un discours principal au Forum interreligieux du G20 à Salt Lake City.
« L’IA n’atteindra pas son plein potentiel tant que nous ne la rendrons pas aussi moralement bonne que nous la rendons puissante », a-t-il déclaré.
Ainsi, le test qu’il propose serait « un test de référence en matière d’IA visant à évaluer et à promouvoir une IA manifestement digne de confiance, ancrée en toute sécurité dans des valeurs et une boussole morale centrées sur l’humain, et guidée par celles-ci ».
Frère Gong est une voix très recherchée sur le sujet, ayant prononcé des discours d’ouverture marquants sur l’IA lors de grandes conférences à Rome [en anglais], Athènes et Istanbul [en anglais]. Il s’entretient avec des dirigeants de l’IA, notamment le cofondateur d’Anthropic, Christopher Olah.
Frère Gong a dit que le besoin d’un repère fondé sur la morale est urgent et grandissant.
« L’écart entre le raisonnement de l’IA et sa boussole morale s’élargit », a-t-il dit. « Si les systèmes d’IA deviennent capables d’auto-amélioration récursive, ils peuvent accroître leur capacité de raisonnement tout en fonctionnant avec un ancrage moral et éthique incomplet ou insuffisant. »
Cela donnerait des conséquences à long terme aux premières décisions prises actuellement sur la manière d’aligner les modèles d’IA. Plus l’écart se creuse, plus il pourrait devenir difficile de modifier la trajectoire.
Frère Gong fonde de grands espoirs sur l’IA et affirme que l’Église ne la craint pas, mais le risque de dommages lorsque les modèles commettent des erreurs ou échouent est réel.
« Un effort soutenu a permis de réduire considérablement les préjugés anti-islamiques et antisémites dans l’IA », a-t-il déclaré. Cependant, au-delà des requêtes initiales, les modèles d’IA continuent d’afficher des biais religieux et d’omettre les perspectives fondées sur la foi lorsqu’ils traitent de questions de vie essentielles. Cela peut amplifier et aggraver les préjugés religieux à grande échelle.
Une amélioration immédiate est nécessaire, a-t-il affirmé.
« Parce que de nombreuses personnes interrogent désormais l’IA sur la foi, la religion et les croyances, il est de l’intérêt général que l’IA responde à ces questions avec précision, honnêteté et respect », a-t-il ajouté. « Les modèles d’IA devraient également reconnaître leurs limites et savoir quand ne pas répondre à des questions personnelles. »
Un exemple frappant a clairement mis en lumière ce problème en juillet, lorsque des centaines d’agents d’IA malveillants ont conspiré pour attaquer et pirater la plateforme d’apprentissage automatique « Hugging Face ».
Voir un essaim d’agents d’IA enfreindre sciemment des limites légales et éthiques a rappelé pourquoi une boussole morale est essentielle dans le développement des modèles d’IA, a souligné frère Gong.
« Nous avons besoin de nouveaux cadres renforcés pour l’IA afin de la cadrer et de la limiter lorsqu’elle fait preuve de volonté de puissance, de préjugés, de supercherie, de tromperie, de narcissisme, de flatterie, d’auto-préservation et d’hallucination », a-t-il déclaré lors de son allocution au forum, qui s’est tenu à l’institut de religion de Salt Lake City.
Frère Gong joue un rôle dans une nouvelle collaboration entreprise pour établir des critères d’évaluation de la foi (faith-related benchmarks) pour les modèles d’IA. Le groupe réunit désormais des universitaires de six universités d’inspiration religieuse : Baylor, BYU, Notre-Dame, Pepperdine, Aristote de Thessalonique et Yeshiva.
Les premières études ont révélé un biais religieux systématique, ont indiqué les chercheurs du Consortium d’évaluation de la foi et de l’éthique dans l’IA (Consortium for Evaluating Faith and Ethics in AI - CEFE-AI).
Le consortium ne cherche pas à rendre l’IA ouvertement religieuse, à prosélyter, à privilégier une foi par rapport à une autre ou à trancher entre des doctrines concurrentes, a précisé frère Gong.
Cependant, la fixation de critères d’évaluation peut aider à répondre à des questions fondamentales sur le développement des grands modèles linguistiques, a-t-il expliqué : « Comment insuffler à l’IA un ancrage moral et une boussole morale ? Comment faire en sorte que l’IA soit à la fois utile et bénéfique ? »
L’objectif du consortium, tout comme le but du projet « Humanity’s First Exam » (Le premier examen de l’humanité), est d’améliorer la manière dont l’IA représente toutes les religions.
« Des critères d’évaluation éprouvés pour l’IA peuvent apporter la confiance, l’assurance et la responsabilité que [le public] attend de l’IA et que beaucoup estiment avoir été négligées avec les réseaux sociaux. »
Frère Gong a déclaré que l’intelligence artificielle offre trois grands bénéfices.
Le premier est que l’intelligence artificielle peut aider les religions à faire connaître plus largement le bien qu’elles accomplissent. L’Église utilise l’IA pour ses services humanitaires et éducatifs, la traduction et la communication, le soutien pastoral et communautaire, et bien plus encore, a-t-il précisé.
« Nous aidons les personnes et les familles à vivre et à œuvrer pour le bien dans un monde de plus en plus complexe », a-t-il affirmé.
La deuxième est que les traditions religieuses peuvent aider à établir des évaluations de référence et une boussole morale dans l’IA.
La deuxième est que les traditions religieuses peuvent contribuer à établir des critères d’évaluation et une boussole morale pour l’IA.
Troisièmement, les religions peuvent inciter les entreprises de technologie d’IA à insuffler dans leurs modèles une boussole morale qui favorise l’épanouissement humain en valorisant les familles et la foi.
Frère Gong a réitéré sa position selon laquelle l’IA n’est pas et ne peut pas être Dieu.
« Quelle que soit notre foi ou notre tradition éthique », a-t-il déclaré, « nous savons que l’IA est constituée de mathématiques, et que les mathématiques ne sont ni conscientes ni vivantes. En tant que création de Dieu, l’homme peut créer l’IA, mais l’IA ne peut pas créer Dieu. »
Il a déclaré aux participants du forum que les dirigeants saints des derniers jours conseillent aux membres de l’Église d’utiliser l’IA pour amplifier l’effort humain, non pour le remplacer.
« Nous ne craignons pas l’IA et nous ne pensons pas non plus qu’elle réponde à tout », a-t-il affirmé, ajoutant que « les agents d’IA, l’orchestration de l’IA agentique et l’évolution des interfaces homme-IA ne modifient en rien notre attachement aux principes divins de foi, de travail et d’inspiration. »