Entusiasta de IA Grampeia a Noite do Sono da Filha e Alimenta o Claude—A Internet Reage

Nicholas Charriere pensou que tinha uma história comovente. Sua filha estava passando sua primeira noite compartilhando um quarto com outra pessoa, sua prima pequena. As duas conversaram por mais de uma hora no que ele descreveu como "um dialeto infantil muito sem sentido."

Então ele escondeu um microfone.

Depois, ele entregou a gravação ao Claude, que a transcreveu, dividiu em segmentos e nomeou cada um. O resultado foi uma página de família com uma lista de faixas completa que incluía tópicos como "Mantenha-se Hidratado." "O Lago Buggy." "Combine o Dogg Roxo." "Eu Sou um Garoto Grande." "Eu Soltei Pum."

"Alegria pura de todos," postou Charriere em 2 de agosto. "ia é muito legal."

A internet discordou em alto volume.

A proporção

Seu post recebeu 4.475 curtidas. A resposta principal obteve 11.179.

"Eu odiaria meus pais se descobrisse que eles fizeram isso," escreveu um usuário. "Nenhum respeito pela privacidade. Essas são pessoas, não versões em miniatura de você mesmo feitas para te divertir."

"Por que você alimentaria isso com IA e depois compartilharia?" perguntou outro, com milhares de curtidas também. "Meu Deus."

Um terceiro comentarista conseguiu quatro palavras: "Você é muito burro."

O podcaster de história Mike Duncan foi mais duro. "Por que preservar a santidade e a privacidade de conversas noturnas de dormir quando você pode gravar tudo secretamente e alimentar a máquina de porcaria de IA e postar sobre isso", escreveu.

A enxurrada de críticas ficou tão grande que a aba de tendências do X gerou seu próprio título para isso: "Executivo de Tecnologia Usa IA para Editar Conversas de Crianças para Memórias de Família." Até o algoritmo tentou fazer soar agradável.

Charriere, CEO do construtor de sites de IA Mocha, não recuou. "A gravação de áudio parece um tesouro", respondeu a um comentário de apoio. "Mal posso esperar para ouvir com minha filha quando ela for mais velha." Quando alguém brincou que deveria ser uma série de podcast, ele observou que já é meio que isso: "É muito popular na família aha, já teve repetidas audições e tem uma hora de duração."

Perguntado sobre como funcionavam os títulos dos clipes, ele explicou que um "subagente transcreve cada seção, depois lê e cria um nome para ela."

Todo mundo está fazendo isso

Charriere não está fazendo isso por conta própria. Ele está seguindo o pai mais proeminente da indústria.

Sam Altman disse ao apresentador do Tonight Show, Jimmy Fallon, que "não consegue imaginar ter passado pela experiência de descobrir como criar um recém-nascido sem o ChatGPT." Dias antes da postagem sobre a criança, o CEO da OpenAI sugeriu no X que os pais "conectem seus calendários familiares e expliquem os interesses dos seus filhos", depois "façam com que ele crie um podcast que fale sobre o jogo de futebol de uma criança naquela tarde, o aniversário de outra criança, algumas notícias, etc." todas as manhãs no caminho para a escola. Alguns até usam o ChatGPT para tomar decisões de vida.

As crianças, apontaram os críticos, estão sentadas ali no carro.

Altman recebeu sua própria enxurrada de críticas. "Usar IA no lugar de conexão humana real é o pior caso de uso possível para ela", dizia uma resposta.

O padrão continua se repetindo. Alguns pais usaram o ChatGPT para escolher o nome do bebê. Brinquedos com IA estão gerando alertas de autoridades dos EUA sobre o que coletam das crianças. Procuradores-gerais estaduais sinalizaram chatbots "sexualizados" como uma ameaça às crianças. Psicólogos alertam que as crianças podem formar vínculos emocionais com a IA que acabam excluindo relacionamentos humanos.

"É oficial! Esses caras da IA perderam completamente a cabeça", escreveu um comentarista no Twitter. "Como se postar fotos dos seus filhos nas redes sociais já não fosse ruim o suficiente."

A questão de privacidade por trás disso é genuinamente não resolvida. Crianças pequenas não podem consentir. Tampouco o primo, cujos pais podem ou não ter sabido que um microfone estava ligado. E a gravação agora existe como uma transcrição que passou por um sistema de IA comercial a caminho de uma página da web.

Charriere vê uma herança de família. Milhares de estranhos veem vigilância com uma lista de faixas.

Para o que vale, a máquina também não resolveu o caso. Claude conseguiu nomear os clipes, cortá-los e organizá-los em uma grade organizada. Mas não conseguiu compartilhar com ninguém a tradução completa da linguagem dos bebês.

Algumas coisas permanecem privadas por conta própria.