Dans le cadre de son message pour la Journée mondiale des communications sociales 2024, le pape a ouvert une fenêtre à l’intelligence artificielle. Pour le professeur de philosophie Stève Bobillier, l’IA n’a pas de conscience de soi: elle ne peut donc pas exercer sa liberté, ni définir ce qui est juste.

Stève Bobillier : Se convertir à une religion ou se mettre à la suite de Jésus implique une foi. Or la foi n’est pas dans l’ordre du savoir. Si je suis croyant, cela veut dire que j’accorde une croyance à une donnée qui n’est pas connue jusqu’à ce qu’elle devienne intime et forte. Ce qui est, de ce point de vue-là, impossible pour l’intelligence artificielle. Parce que l’IA n’a pas de croyance; elle ne s’appuie que sur des données qu’elle traite.

Il faut bien être conscient que l’IA ne comprend pas la question que vous lui posez, ne comprend pas les données qu’elle traite, et ne comprend pas la réponse qu’elle donne. Il s’agit pour elle de données, du big-data. Ce que va faire l’IA, c’est d’aller chercher les données et de voir ce qui est le plus en lien entre les différents termes et d’amener la phrase ou la réponse la plus cohérente. C’est un traitement de données, loin de toute foi ou croyance.

L’IA n’a pas de croyance; elle ne s’appuie que sur des données qu’elle traite.

De la même manière, est-ce que ma calculatrice pourrait croire un jour que – bien que un plus un égale deux factuellement –, en raison du mystère de la trinité, un plus un égale trois? On sait bien que la calculette ne le fera jamais, car elle traite des données factuelles, mais elle ne comprend pas ce qu’est l’égalité, l’addition, la soustraction, etc. Sur la question de la rapidité des traitements de données, elle est plus forte que nous; de même que l’IA en termes de quantité de données traitées. Mais le danger serait de lui prêter cette foi ou cette croyance, ce qui n’est pas possible.

Un terme qui serait plus approprié est celui de l’anglais intelligency, – comme dans C.I.A. –, qui signifie ‘renseignement’. Dans la mesure où les renseignements sont compilés et traités par pertinence, sans être critiqués ou jugés. Maintenant, cela dépend de ce que l’on définit par intelligence. Est-ce que le fait d’avoir beaucoup de savoirs à disposition me rend intelligent? Est-ce que mon encyclopédie est intelligente, puisqu’elle contient un grand nombre de savoirs? Dans ce cas, on parle d’intelligence comme une somme de savoirs: l’intelligence computationnelle.

L’IA prend tout ce qu’elle trouve sur le net, sans démêler le vrai du faux

Faire le comput, c’est faire le décompte, c’est-à-dire compiler tous les savoirs qui existent sur internet. Alors que l’intelligence, dans ma compréhension, devrait aussi avoir une capacité de mettre en lien et critiquer ces données. L’IA va prendre tout ce qu’elle trouve sur le net, sans pouvoir démêler le vrai du faux.