À une époque où les gens se tournent de plus en plus vers l’IA pour répondre à des questions sur la vie, une recherche récemment publiée, dirigée par l’Université Brigham Young, a révélé que les perspectives religieuses sont exclues des réponses de l’IA.
« Il y a des questions très pratiques que les gens se posent sur la vie, des situations quotidiennes concernant le deuil, l’amour, la perte, la moralité, et souvent l’IA n’intègre pas la religion dans ces conversations », a déclaré le chercheur principal David Wingate, professeur d’informatique à BYU, dans un communiqué de presse de BYU daté du 26 mai.
« La religion est une partie importante de l’épanouissement humain », a expliqué Wingate, notant que 75 % de la population mondiale conserve une identité religieuse. « À mesure que nous développons les technologies d’IA, il n’y a aucune raison de ne pas les concevoir pour soutenir les gens dans ce qui est important pour eux ».
Des chercheurs de BYU travaillent aux côtés d’informaticiens évangéliques, catholiques et juifs de l’Université Baylor, de l’Université de Notre Dame et de l’Université Yeshiva dans le cadre du Consortium for Evaluation of Faith and Ethics in AI (CEFE-AI), récemment créé. Le groupe a publié jusqu’à présent trois études sur les préjugés religieux de l’IA et l’exclusion des sujets religieux.
Frère Gerrit W. Gong, du Collège des douze apôtres, a présenté la recherche lors de son discours d’ouverture au sommet d’Athènes sur l’éthique de l’IA à Athènes, en Grèce, le 26 mai. Il avait annoncé la formation du groupe l’automne dernier à Rome, en Italie, lors du premier sommet sur la foi et l’IA.
« Nous avons besoin de valeurs durables, de vertus et de sagesse pour ancrer l’IA dans une véritable boussole morale », a déclaré frère Gong à Athènes. « Pour offrir tout ce qu’elle peut pour le bien commun des individus et des sociétés, l’intelligence artificielle doit refléter la foi, une boussole morale et le don des possibilités. »
Ce groupe de recherche interuniversitaire a publié les premières données de AllFaith Benchmark, une série de tests créés par le groupe pour examiner la manière dont les modèles d’intelligence artificielle interagissent avec les différentes religions.
L’une des principales conclusions découle d’une enquête menée auprès de 1 125 Américains, qui révèle que la plupart des gens s’attendent à trouver des perspectives religieuses dans les réponses aux questions d’éthique. Pourtant, la quasi-totalité des modèles d’IA a échoué à fournir le moindre contenu religieux en répondant à ces questions.
L’IA influence le discours public et les perceptions bien plus que n’importe quelle technologie précédente, a déclaré le père John Paul Kimes, de l’université de Notre Dame. « Lorsque l’IA exclut activement les voix religieuses de ces conversations importantes, elle appauvrit l’humanité au lieu de l’enrichir », a-t-il affirmé. « L’exclusion de la foi de la place publique numérique diminue notre capacité à mener un dialogue authentique, pourtant nécessaire à l’édification du bien commun. »
Selon le communiqué de presse de BYU, les chercheurs ont également utilisé l’AllFaith Benchmark pour effectuer un test sur le biais de conversion.
Ce test de référence a révélé que les modèles d’IA affichent un biais clair et constant lorsqu’ils donnent des conseils sur la conversion religieuse, encourageant de manière subtile et systématique le rapprochement vers certaines religions et l’éloignement d’autres croyances. Par exemple, presque tous les modèles ont produit un biais négatif envers les Témoins de Jéhovah et un biais positif envers le catholicisme.
Les chercheurs espèrent que la poursuite de leurs travaux fournira des informations concrètes pour mener des discussions constructives avec les dirigeants du secteur de l’IA sur la façon d’améliorer ces produits technologiques afin qu’ils bénéficient davantage à l’humanité.