Dans son message prononcé le mardi 26 mai, lors de la conférence tenue à Athènes, en Grèce, frère Gong a présenté des moyens pratiques et concrets par lesquels les outils d’intelligence artificielle peuvent atteindre leur plus haut potentiel.

L’aspiration était grandiose.

« Je souhaite que l’intelligence artificielle soit dotée d’une boussole morale capable d’inspirer chaque être humain, où qu’il soit, et de lui ouvrir le champ des possibles pour faire le bien et donner le meilleur de lui-même », a déclaré frère Gong, qui accomplit sa neuvième année de service en tant qu’apôtre de l’Église de Jésus-Christ des Saints des Derniers Jours.

L'IA a besoin d'un « ancrage moral et d'une boussole morale », déclare frère Gong

« Une IA capable de déceler une aiguille de logique dans une botte de foin de données massives peut nous aider à accompagner et à guider chaque individu, afin qu’il s’épanouisse pleinement dans ses choix, avec dignité, compétence et estime de soi », a-t-il ajouté.

Pour y parvenir, les concepteurs de l’IA devront, selon lui, programmer délibérément leurs systèmes pour qu’ils reflètent fidèlement l’expérience humaine ainsi que la sagesse issue des traditions religieuses, des enseignements moraux et des valeurs universelles.

« Nous ne libérerons le plein potentiel de l’IA que lorsque nous la rendrons aussi moralement juste qu’elle est technologiquement puissante », a affirmé frère Gong. « Et nous n’atteindrons notre plein potentiel humain que si nous prenons la responsabilité — nous, et non une quelconque technologie — de tracer la voie vers notre plus bel avenir. »

Selon de nouvelles études présentées lors du sommet par des chercheurs de quatre grandes universités, les systèmes d’IA actuels affichent un biais religieux systématique. Ces chercheurs ont été présenté par frère Gong sous le nom de Consortium pour l’évaluation de la foi et de l’éthique dans l’IA, un groupe dont il avait annoncé la création à Rome, en Italie, l’automne dernier, lors du premier Sommet sur la foi et l’intelligence artificielle.

Ces études ont été conçues pour aider les concepteurs d’IA, les gouvernements, les universitaires et le grand public à mieux appréhender les préjugés religieux ancrés dans les systèmes d’IA en plein essor.

Le discours de l’Apôtre a été salué par le révérend Johnnie Moore, président du Congress of Christian Leaders, qui a estimé qu’il s’agissait d’une allocution historique capable de marquer le siècle à venir. Les déclarations de frère Gong sont intervenues au lendemain d’une proclamation majeure du pape François à Rome concernant l’avenir d’un monde guidé par l’intelligence artificielle.

L’objectif de ce sommet est de mobiliser les dirigeants représentant les 6 milliards de croyants de la planète afin d’inciter les créateurs d’IA à intégrer fidèlement dans leurs algorithmes l’impact positif que l’éthique et la religion apportent au monde, a expliqué Meredith Potter, directrice exécutive de l’American Security Foundation, l’organisme qui parraine l’événement.

Le choix d’Athènes — berceau de la démocratie et de la philosophie occidentale — pour accueillir ce sommet ne devait rien au hasard, car les questions auxquelles notre société est aujourd’hui confrontée sont aussi anciennes qu’elles sont inédites, a souligné Meredith Potter.

« Le pouvoir de l’intelligence artificielle est actuellement concentré entre les mains d’une poignée de personnes, alors qu’il pourrait être un formidable levier d’émancipation pour le plus grand nombre », a affirmé le rabbin Harris Bor, de la London School of Jewish Studies.

Nous n’atteindrons notre plein potentiel humain que si nous prenons la responsabilité — nous, et non une quelconque technologie — de tracer la voie vers notre plus bel avenir.

Frère Gerrit W. Gong, du Collège des douze apôtres

Les dirigeants évangéliques, juifs, orthodoxes grecs, catholiques et d’autres confessions présents à ce sommet partagent la conviction qu’un avenir où l’IA est au service de l’homme est possible, mais qu’il doit être façonné de manière délibérée.

Dans cette optique, le révérend Moore et d’autres intervenants ont salué l’encyclique du pape Léon, « Magnifica Humanitas : Sur la protection de la personne humaine à l’ère de l’intelligence artificielle », comme un exemple inestimable de leadership moral.

Là où les messages du pape et de frère Gong convergent

Selon une analyse de leurs interventions respectives, le pape et frère Gong partagent une vision commune, profonde et globale. Ils s’accordent en particulier sur l’urgence absolue d’ancrer l’intelligence artificielle dans une boussole morale dès cette phase cruciale de son développement.

Le message de frère Gong s’est voulu plus opérationnel, appelant à des phases de tests continues et pluralistes pour les modèles d’IA. Il a également proposé des principes de conception clairs pour définir la personnalité et le comportement des systèmes d’IA.

Ces deux dirigeants spirituels ont affirmé avec force que l’intelligence artificielle ne saurait être l’arbitre suprême des valeurs humaines. Ils ont également souligné que les systèmes d’IA centralisent le pouvoir d’une manière inédite, ce qui exige une transparence totale, une grande responsabilité et une surveillance accrue.

« On ne peut laisser ni les entreprises technologiques guidées par le profit, ni les gouvernements mus par des intérêts politiques, dicter la boussole morale de notre société en matière d’IA », a déclaré frère Gong.

Les deux dirigeants ont conclu que la moralité et les valeurs ancrées dans les récits sacrés des grandes traditions religieuses ont apporté une contribution inestimable à l’humanité, et qu’elles doivent impérativement continuer à la guider.

Comment les traditions religieuses peuvent améliorer les systèmes d’IA

« Les dirigeants religieux ont une immense contribution à apporter », a déclaré frère Gong. « Nous avons besoin de valeurs durables, de vertus et de sagesse pour ancrer l’IA dans une véritable boussole morale. Pour donner tout son potentiel au service du bien commun des individus et des sociétés, l’intelligence artificielle doit refléter la foi, la boussole morale et le don des possibilités ».

voire surpasser, les capacités humaines dans l’exécution de nombreuses tâches cognitives, à travers ce que l’on nomme désormais l’intelligence artificielle générale (IAG) ou la superintelligence artificielle.

Il a souligné que l’IA recèle un potentiel saisissant, tant pour le bien que pour le mal, dans des domaines stratégiques comme la sécurité et la souveraineté numériques.

« Ces avancées mettent en lumière la nécessité absolue de concevoir des critères d’évaluation de l’IA qui soient pluralistes, fondés sur la foi et l’éthique, afin de doter l’IA d’un véritable cap moral », a conclu frère Gong.

Ce que révèlent les tests des systemes d’IA basés sur la foi

Les chercheurs de CEFE-AI ont créé des outils de mesure pour tester les systèmes d’IA appelés le AllFaith Benchmark, qui permet de visualiser quels modèles reflètent le mieux les valeurs de la foi. Les chercheurs ont toutefois tenu à préciser que ces critères d’évaluation ne visent en aucun cas à embrigader ces systèmes d’IA dans une quelconque démarche de conversion religieuse.

« Représenter les différentes traditions religieuses de manière pluraliste, exacte, honnête et respectueuse ne revient pas à privilégier une croyance par rapport à une autre, ni la foi par rapport à l’athéisme », a expliqué frère Gong. Il a également insisté sur le fait que « l’évaluation pluraliste de la foi et de l’éthique ne constitue en rien une imposition de la religion à l’IA ».

L’évaluation et les tests ne constituent qu’une première étape dans l’effort visant à doter l’intelligence artificielle d’un véritable cap moral. Frère Gong a souligné que les systèmes d’IA doivent d’abord assimiler le « pourquoi » des choses avant de pouvoir soutenir efficacement le libre arbitre et les valeurs de l’homme.

Les chercheurs des quatre établissements qui composent actuellement le consortium — les universités Baylor, BYU, Notre Dame et Yeshiva — ont partagé les résultats de trois nouvelles études qui mettent en lumière un biais religieux systématique dans les modèles d’IA actuels.

Face à ces constats et à l’évolution fulgurante des technologies, frère Gong a affirmé qu’il était désormais temps de :

• Définir ce que signifie être humain.
• Orienter l’IA vers un avenir synonyme de liberté, d’équité et porteurs de sens.
• Distinguer la prise de décision automatisée des machines de la conscience humaine
• Déterminer la responsabilité en matière d’IA et d’agents d’IA.
• Reconnaître que les lois du marché et les gouvernements « ne pourront, en dernier ressort, ni arbitrer ni dicter notre manière de définir et de vivre la vérité ».

La mise a jour du Manuel general comprend des directives sur l'utilisation de l'intelligence artificielle

Jusqu’à présent, frère Gong a dit : “Les systèmes d’IA ne se sont pas concentrés sur la reconnaissance et la priorisation des expériences humaines, des vertus et des valeurs dont nous avons besoin pour faire de l’IA un don robuste de possibilités positives. Nous avons besoin d’exemples humains riches et pleins de potentiel — authentiques et réels — et non de reliques expurgées ou de résumés abstraits”.

Il a cité une longue liste d’esprits brillants issus de tous les horizons de la pensée humaine, allant des philosophes athéniens comme Socrate et Platon jusqu’à Confucius, Gandhi ou encore Omar Khayyam.

Le pape et frère Gong ont tous deux réfuté l’idée selon laquelle le raisonnement algorithmique pourrait un jour égaler l’intelligence humaine. Ils ont par ailleurs plaidé pour une transparence qui, comme l’a souligné frère Gong, permettrait à l’IA de « jeter des ponts plutôt que de creuser les fossés numériques ».

Les deux dirigeants ont convenu que les règles et les réglementations ne peuvent pas porter tout le poids moral.

« Les personnalités IA ont besoin de raisons, pas seulement de règles », a déclaré frère Gong.

Les dirigeants du sommet préparent une formation sur l’IA pour les dirigeants religieux du monde entier.

Le don de possibilité que l’IA pourrait offrir

Frère Gong est arrivé à Athènes après avoir exercé son ministère en Angola, au Mozambique et à Madagascar. Il a puisé l’inspiration pour ses espoirs ambitieux concernant l’IA dans une récente visite à Niévès, une nation insulaire des Caraïbes.

C’est là, dans l’anonymat le plus complet, qu’est né Alexander Hamilton. Lors de son séjour, frère Gong a rencontré une enseignante fermement convaincue que n’importe lequel de ses élèves pourrait devenir le prochain Hamilton.

« Partout où je me rends, dans aujourd’hui près de 120 pays et territoires, je vois un potentiel divin et une infinité de possibilités », a confié frère Gong. « Cet enfant se trouve peut-être au premier rang, au fond de la classe, ou peut-être même qu’il n’a pas la chance d’aller à l’école. »

« À ce tournant critique de notre histoire, nous avons besoin du don de possibilité offert par l’IA», a-t-il dit. « Nous avons besoin d’une IA qui vienne fortifier le libre arbitre de l’homme et sa capacité à faire le bien ; une IA qui donne la priorité à l’apprentissage et à la force de caractère, et qui donne à chaque individu la dignité et la place qu’il mérite pour apporter sa contribution de manière utile et sensée dans un monde du travail en pleine mutation. »

Ses cinq propositions pour guider les principes de conception des personnalités d’IA sont :

• Protéger et promouvoir le libre arbitre moral de l’être humain.
• Imprégner la boussole morale de valeurs altruistes équilibrées.
• Divulguer la transparence de l’IA.
• Préserver la faculté humaine de faire une pause avant de prendre une décision finale.
• Atténuer les dérives de l’IA, notamment ses tendances à la volonté de puissance, aux préjugés, à la tromperie, au narcissisme, à la flatterie servile et à l’instinct de conservation.

Frère Gong propose 3 façons dont les dirigeants religieux mondiaux peuvent agir sur les questions liées à l'IA

Fiez-vous a l'Esprit lorsque vous utilisez l'IA, encourage frere Gong

Lire plus d'articles sur l'intelligence artificielle dans le Church News