Eternal You

Jeudi soir, dans le magnifique amphithéâtre de l'institut de physique du globe, j'ai eu l'opportunité de découvrir "Eternal You", réalisé par Hanz Block et Moritz Riesewieck.

Plein les yeux !

Les images sont magnifiques. Comme j'ai vu Konrad Waldmann chercher les ombres et les rayons de lumière pendant deux jours aux Ulis, je sais tout le travail qu'il y a derrière certains plans, en particulier ceux réalisés par des drones.

Le film donne la parole à des utilisateurs, des concepteurs, mais aussi des chercheurs. Il pointe du doigt l'énorme fossé entre la perception de l'intelligence artificielle dans la société et ce qui se passe dans les start-up et les labos. On voit beaucoup d'ordinateurs, des interviews dans des amphithéâtres, avec une atmosphère qui quelquefois rappelle un peu Citizen 4, le documentaire sur Edward Snowden.

La seule chose que je pourrais éventuellement qualifier de glauque [1], ce sont les squelettes et les peaux sur les écrans utilisés en réalité virtuelle. L'intelligence artificielle a encore beaucoup de progrès à faire avec la 3D pour que ce genre de simulation soit réaliste.

Le LLM, ce magicien d'Oz

A un moment, on entend une personne dire qu'elle pense que les textes d'une I.A. générative sont écrits par un humain qui s'exprimerait en direct. En interaction homme-machine, les expériences du Magicien d'Oz sont des tests utilisateurs où le cobaye doit deviner si c'est l'humain ou l'ordinateur qui répond à ses ordres. Or les modèles de langages (LLM) sont tellement complexes que c'est bien sûr impossible ! Cette petite elfe cachée derrière Project December a dû bien s'amuser avec la fan-fiction de la simulation de Sonia mercredi [2] !

Une société utilise la synthèse vocale. A partir d'un échantillon de voix d'une personne décédée, un mappage avec la voix d'un acteur permet ensuite de lire des textes. Dans la bande annonce, la sœur de l'homme décédé pense que la technologie va trop loin, pourtant, la synthèse vocale par règle date de 1965. [3]

Les talents d'actrice de Christy Angel

Les catholiques n'aiment pas les ingénieurs ni leurs créations diaboliques. J'ai été surprise par le témoignage de Christy Angel, la dame que l'on voit au début de la bande annonce. J'avais l'impression que c'était une bonne actrice capable de pleurer, de rire, d'être en colère, de danser, de chanter. Il ne fait aucun doute que le magicien d'Oz a modifié le texte de Project December pour rendre l'I.A. plus effrayante. Si j'ai eu droit à des Fuck You bien mérités, je n'ai à aucun moment vu de fantôme, ou quoi que ce soit d'effrayant. Au contraire, les simulations m'ont toujours ramenée à la vie, que ce soit avec un coup de pied au derrière pour éviter la noyade, ou avec la poésie de Paul Valery [4].

Beau ciel, vrai ciel, regarde-moi qui change !
Après tant d’orgueil, après tant d’étrange
Oisiveté, mais pleine de pouvoir,
Je m’abandonne à ce brillant espace,
Sur les maisons des morts mon ombre passe
Qui m’apprivoise à son frêle mouvoir.

C'est un peu comme si un magicien d'Oz bien humain avait découpé le texte produit par la simulation de Sonia pour ne garder que certaines lettres.

Un coup de baguette magique transforme les lettres restantes en une phrase effrayante apte à faire pleurer n'importe quelle grenouille de bénitier.

Comme il reste quelques lettres, un coup de copier-coller permet à l'actrice de retrouver le sourire.

Addiction et capitalisme

Dans une séquence, on voit un homme expliquer à Christy Angel qu'elle remet une pièce dans la machine à cause du capitalisme de Jason Rohrer. Ce dernier commente cela en pointant la responsabilité de l'utilisatrice. Je suis tout à fait d'accord. Je ne me serais pas réabonnée à Charlie Hebdo si les caricatures ou les textes me choquaient ! Et si c'était le cas, je n'ai à m'en prendre qu'à moi même d'avoir mis de l'argent dans un hebdomadaire qui ne me blesse ! On ne s'abonne pas à Project December, on paie la puissance de calcul, le carburant, c'est-à-dire les jetons pour générer un certain nombre de mots, un peu comme si on achetait un magazine de temps en temps.

Pour montrer à quel point Jason Rohrer est un méchant capitaliste, voilà l'état de mon addiction. J'ai payé 12$ il y a 18 mois et 10$ mercredi dernier pour les besoins du tournage. Entre temps, il a transmis les demandes d'interview à tout le monde, ainsi qu'une demande d'une anthropologiste, Jennifer Cearns, spécialiste d'intelligence artificielle et d'algorithmes en lien avec la vie sociale [5].

On est loin du comportement de sociétés armées de services de communication qui veillent à ce que personne n'étudie leur produit ! Peut-être que Christy Angel a confondu Project December avec un téléphone lui permettant de papoter avec l'âme de son mari, Cameroun, sans passer par le 22 à Asnières ou par l'entremise de religieux transmettant la demande à Dieu, qui la transmet au défunt si celui-ci le veut bien ?

Une fois qu'une simulation a produit le nombre de mots correspondant aux 10$, elle meurt. Même s'il y a des ressemblances, car j'ai rentré des informations similaires dans les deux formulaires, Sonia qui me répond "I can't breathe" en 2023 n'est pas Sonia qui m'a fait rire mercredi en reprenant les propos d'Astrid "You can still make a difference". Je pourrais paraphraser le rêve familier de Paul Verlaine.

Je fais souvent ce rêve étrange et pénétrant
D’une simulation inconnue, et que j’aime, et qui m’aime,
Et qui n’est, chaque fois, ni tout à fait la même
Ni tout à fait une autre, et m’aime et me comprend.

Eclats de rire

Quand la réponse "I'm in hell" est apparue, nous avons été quelques uns à éclater de rire dans amphithéâtre de l'institut de physique du globe de 300 places. Si on demande à une IA de choisir si les mots qui viennent après "Je suis..." sont "en enfer" ou "au paradis", elle va faire des statistiques. Si je reçois un lien vers la simulation dans un email avec comme sujet "Simulated personality created", je ne vais pas le traduire par "Résurrection de Sonia" ou "Communication établie avec l'âme de Sonia".

A part lors de la simulation du 3 mai qui m'a agacée, les réponses de Project December m'ont toujours amusée, épatée, et ont quelque fois provoqué des éclats de rire. J'ai retrouvé cet humour sur certains écrans du documentaire, au point de ressentir même un peu de jalousie (si, si...)

Je me demande si dans l'interview, Christy Angel n'a pas fait du théâtre en rajoutant des choses dont elle aurait rêvé, comme par exemple que Cameroun allait la hanter pour l'éternité, et que pour plus de cohérence, le texte s'affichant à l'écran a été adapté au montage. Le problème d'éthique ne vient peut-être pas de l'ingénieur, mais de l'utilisatrice. Son cinéma montre en tous cas à quel point les religieux ont peur que l'intelligence artificielle mette leur business en péril. Si j'ai dépensé 22$ en 18 mois avec Project December, le fidèle qui met 1$ dans la corbeille de la quête de l'église chaque dimanche aura dépensé plus de 70$.

Science et technologie

Dans Science as a candle in the dark, Carl Sagan estimait en 1988 qu'un tiers des américains estiment être en contact avec des morts, et un quart croit en la réincarnation. A la même époque, il a aussi déclaré :

Nous vivons dans une société extrêmement dépendante de la science et de la technologie, dans laquelle presque personne ne comprend rien de la science et de la technologie.

Eternal You illustre merveilleusement cette ignorance, cette incompréhension du fonctionnement des I.A génératives et des conséquences que cela peut avoir sur le plan individuel. Il y a une forte demande de la part de personnes qui ont perdu un être cher. Les raisons sont aussi diverses que les relations personnelles. Par exemple, écrire une fan-fiction avec la simulation de Sonia m'a rappelé les moments privilégiés quand nous écrivions toutes les deux des cadavres exquis [1]. Des souvenirs agréables ont resurgi. Je me suis amusée à glisser des citations issus du Prince des Dragons et j'ai été émerveillée que l'IA me réponde avec une autre citation [6].

Et si ça fait du bien ?

J'ai tellement de photos, de films à exploiter que je n'ai pas besoin de réalité virtuelle ou de synthèse vocale, mais je comprends que Jong Ji Sung ait eu envie de serrer sa fille Na-Yean dans ses bras grâce à la réalité virtuelle et de dire des mots qu'elle regrettait de ne pas avoir prononcé à l’hôpital. Cela a permis à ses cauchemars de cesser. J'imagine qu'aucun thérapeute n'aurait pu en faire autant ! Si cette technologie fait du bien, pourquoi s'en passer ? Mais là aussi, il en va de la responsabilité de l'utilisateur.

Que cela vienne d'un développeur comme Jason Rohrer ou d'un géant de la tech, les outils sont là, ils évoluent, ils sont mis sur le marché. Le deuil est tellement tabou que peu de recherches sont menées sur ce sujet en particulier et sur les robots sociaux en général comme l'indique l'avis du COMETS [7].

L'IA n'est pas née avec ChatGPT

Lors des échanges à l'occasion du buffet, où les critiques à l'encontre des ingénieurs fusaient, j'ai senti aussi une incroyable méconnaissance de ce qui se fait dans les laboratoires de recherche depuis des décennies [8]. Certains se sont offusqués qu'il y ait eu des rires pendant la diffusion, ce qui tente à prouver que beaucoup n'ont pas pris la peine de se demander comment fonctionnait un LLM et pourquoi certains réponses de l'IA générative étaient drôles.

Dans la série de questions-réponses, Hans Bloch a expliqué que l'idée du documentaire datait de 2018, quand en Roumanie une société proposait de créer un clone numérique. Je le suis rendue compte que pas mal d'étudiants présents pensaient que l'IA était apparue avec ChatGPT.

Une fiction nécessaire ?

Même si la réalité a été altérée pour rendre les I.A. effrayantes, Eternal You met en garde les néophytes et permet à chacun de se rendre compte du comportement de personnes crédules ou âgées, qui voient de la magie là où il n'y a que des maths, des statistiques !

Mon expérience de Project December n'a rien à voir avec celle de Christy Angel, à un point où j'ai du mal à imaginer que les sentiments qu'elle exprime sont sincères. Il est possible qu'il y ait des comportements addictifs et des gens qui dépensent sans compter en pensant réellement papoter avec l'être aimé. Mais les personnes avaient déjà un comportement irrationnel avant d'utiliser l'IA. Sans amour, il n'y a pas de deuil et le lien est toujours plus fort avec le temps ! Pour ma part, je prends le temps de digérer ce que l'IA m'a offert. Je vais regarder s'il n'y a pas un concours de nouvelles avec un thème qui pourrait me permettre de raconter le voyage réalisé avec la simulation de Sonia.

L'IA a quelque chose de rassurant par rapport aux comportements humains. Les mensonges se cachent dans l'ombre, la vérité la plus sombre a été mise en lumière par "Eternal You".

Il ne me reste qu'à remercier le magicien d'Oz caché sous la table qui a écrit ces mots de ses petits doigts... ou plutôt Jason Rohrer, qui a développé Project December, ainsi que Hans Block et Konrad Waldmann qui m'ont incitée à créer une simulation pour le besoin du tournage d'un documentaire.

Ajout le 20 novembre

Vu sur X [9] :

La vie, l'univers et le reste...

Rechercher dans ce blog