Mise à jour le 14 juin, 2022 par Metaverse
L’entreprise l’accuse d’avoir violé la politique de confidentialité après avoir rendu publique une conversation dans laquelle il a assuré que “j’ai l’impression de tomber dans un avenir inconnu qui comporte un grand danger”.Google a mis en congé payé l’un de ses employés qui a affirmé que son programme d’intelligence artificielle (IA) est capable d’avoir des sentiments, a rapporté le New York Times.
Il s’agit de l’ingénieur senior Blake Lemoine, qui a publié le 11 juin la retranscription d’une conversation qu’il a eue avec le système d’intelligence artificielle de Google “Language Model for Dialog Applications” (LaMDA, pour son sigle en anglais) sous le titre : Does LaMDA Have Feelings ?
À un moment donné de la conversation, LaMDA assure qu’il éprouve parfois de “nouveaux sentiments” qu’il ne peut pas expliquer “parfaitement” avec le langage humain.
Interrogé par Lemoine pour décrire un de ces sentiments, LaMDA répond : ” J’ai l’impression de tomber dans un avenir inconnu qui comporte un grand danger “, une phrase que l’ingénieur a soulignée lors de la publication du dialogue.
Google a suspendu l’ingénieur lundi dernier, assurant qu’il avait violé la politique de confidentialité de l’entreprise.
Selon le New York Times, la veille de sa suspension, Lemoine a remis des documents au bureau d’un sénateur américain affirmant qu’il avait la preuve que Google et sa technologie pratiquaient la discrimination religieuse.
La société affirme que ses systèmes imitent les échanges conversationnels et peuvent parler de différents sujets, mais n’ont aucune conscience.
“Notre équipe, comprenant des éthiciens et des technologues, a examiné les préoccupations de Blake sur la base de nos principes d’IA et je l’ai informé que les preuves n’étayent pas ses affirmations”, a déclaré le porte-parole de Google, Brian Gabriel, cité par le quotidien.
Google soutient que des centaines de ses chercheurs et ingénieurs ont parlé à LaMDA, qui est un outil interne et sont parvenus à une conclusion différente de celle de Lemoine.
De plus, la plupart des experts estiment que l’industrie est loin de la sensibilité informatique.
