En bref

  • Le PDG de Mocha, Nicholas Charriere, a caché un microphone dans la chambre de son tout-petit, a nourri l'enregistrement à Claude, et a construit une page web familiale de clips avec des titres comme « J'ai pété ».
  • La réponse la plus populaire—« Je détesterais mes parents si je découvrais qu'ils ont fait ça »—a surpassé son post original.
  • Il ne regrette rien, qualifiant l'audio de « trésor » et notant que la famille l'a écouté en boucle.

Nicholas Charriere pensait avoir une histoire réconfortante. Sa fille passait sa toute première nuit à partager une chambre avec quelqu'un d'autre, son cousin tout-petit. Ils ont parlé pendant plus d'une heure dans ce qu'il a décrit comme « un dialecte de tout-petit très absurde ».

Alors il y a glissé un microphone en cachette.

Puis il a donné l'enregistrement à Claude, qui l'a transcrit, découpé en segments, et nommé chacun. Le résultat était une page web familiale avec une liste complète de pistes qui incluait des sujets comme « Restez hydraté ». « Le lac bugué ». « Correspond au chien violet ». « Je suis un grand garçon ». « J'ai pété ».

« Une joie pure pour tout le monde », a posté Charriere le 2 août. « l'IA est plutôt géniale ».

Internet a fortement exprimé son désaccord.

Le ratio

Son post a obtenu 4 475 likes. La réponse la plus populaire en a obtenu 11 179.

« Je détesterais mes parents si je découvrais qu'ils ont fait ça », a écrit un utilisateur. « Aucun respect de la vie privée. Ce sont des personnes, pas des versions miniatures de vous-même créées dans le but de vous amuser. »

« Pourquoi nourrir l'IA avec ça et ensuite le partager ? » a demandé un autre, avec des milliers de likes à eux aussi. « Mon Dieu. »

Un troisième commentateur a réussi quatre mots : « Vous êtes très bête. »

Le podcasteur d'histoire Mike Duncan a été plus dur. « Pourquoi préserver le caractère sacré et l'intimité des discussions tardives lors des soirées pyjama quand on peut tout enregistrer secrètement, le nourrir dans la machine à slop IA et en parler », a-t-il écrit.

La déferlante a été assez importante pour que l'onglet tendances de X génère son propre titre : « Un dirigeant tech utilise l'IA pour découper des conversations de tout-petits pour des souvenirs de famille. » Même l'algorithme a essayé de faire en sorte que ça sonne bien.

Charriere, le PDG du créateur de sites web IA Mocha, n'a pas reculé. « L'enregistrement audio ressemble à un trésor », a-t-il répondu à un commentaire de soutien. « J'ai hâte de l'écouter avec ma fille quand elle sera plus grande. » Quand quelqu'un a plaisanté en disant que ça devrait être une série de podcasts, il a noté que c'était déjà un peu le cas : « C'est très populaire auprès de la famille aha, ça a été écouté plusieurs fois et ça dure une heure. »

Interrogé sur le fonctionnement des titres des clips, il a expliqué qu'un « sous-agent transcrit chaque section, puis il la lit et trouve un nom pour elle. »

Tout le monde le fait

Charriere n'est pas un indépendant ici. Il suit le parent le plus éminent de l'industrie.

Sam Altman a dit à l'animateur du Tonight Show, Jimmy Fallon, qu'il « ne peut pas imaginer avoir traversé, compris comment élever un nouveau-né sans ChatGPT. » Quelques jours avant le post sur le tout-petit, le PDG d'OpenAI a suggéré sur X que les parents « connectent vos calendriers familiaux et expliquent les intérêts de vos enfants », puis « faites-lui faire un podcast qui parle du match de foot d'un enfant cet après-midi, de l'anniversaire à venir d'un autre enfant, de quelques nouvelles, etc. » chaque matin sur le chemin de l'école. Certains utilisent même ChatGPT pour prendre des décisions de vie.

Les enfants, ont souligné les critiques, sont assis juste là dans la voiture.

Altman a eu droit à son propre ratio. « Utiliser l'IA à la place d'une véritable connexion humaine est le pire cas d'utilisation possible », a lu une réponse.

Le schéma se répète. Certains parents ont utilisé ChatGPT pour choisir le prénom de leur bébé. Les jouets dotés d'IA suscitent des avertissements de la part des responsables américains concernant ce qu'ils collectent auprès des enfants. Les procureurs généraux des États ont signalé des chatbots « sexualisés » comme une menace pour les enfants. Les psychologues avertissent que les enfants peuvent développer des attachements émotionnels à l'IA qui supplantent les relations humaines.

« C'est officiel ! Ces mecs de l'IA ont complètement perdu la tête », a écrit un commentateur. « Comme si publier des photos de vos enfants sur les réseaux sociaux n'était pas déjà assez grave. »

La question de la vie privée sous-jacente est véritablement non résolue. Les tout-petits ne peuvent pas consentir. Pas plus que le cousin, dont les parents savaient peut-être ou non qu'un micro était allumé. Et l'enregistrement existe désormais sous forme de transcription qui est passée par un système d'IA commercial avant d'arriver sur une page web.

Charriere y voit un héritage. Des milliers d'inconnus y voient une surveillance avec une liste de pistes.

Pour ce que ça vaut, la machine n'a pas non plus résolu l'énigme. Claude a pu nommer les clips, les découper et les disposer dans une grille soignée. Il n'a pas pu partager avec qui que ce soit la traduction complète du langage de bébé.

Certaines choses restent privées d'elles-mêmes.