O cofundador da Solana, Anatoly Yakovenko, questionou os motivos financeiros por trás de uma proposta de desaceleração da IA apoiada por Dario Amodei, Sam Altman e Elon Musk em 13 de setembro.
Resumo
- O cofundador da Solana, Anatoly Yakovenko, vinculou propostas de ritmo da IA à lucratividade em níveis de capitalização de mercado de trilhões de dólares.
- O plano de Dario Amodei pede avaliadores incorporados, coordenação do setor e possíveis acordos internacionais de segurança eventualmente.
- O CEO da OpenAI, Sam Altman, endossou avaliadores externos incorporados e prometeu mais detalhes de implementação em breve publicamente.
- Elon Musk apoiou a proposta de Amodei com uma breve declaração relatada pela Reuters no sábado publicamente.
- David Sacks argumentou que os laboratórios poderiam desacelerar voluntariamente sem exigir um quadro regulatório coordenado de concorrentes.
O post de Yakovenko no X reduziu sua resposta a quatro palavras: “Lucratividade com US$ 1 trilhão de capitalização de mercado.” Ele não identificou a qual empresa o número se referia nem forneceu cálculos de receita, avaliação ou lucratividade que apoiassem o comentário.
O comentário respondeu a um debate iniciado pelo CEO da Anthropic, Dario Amodei, que publicou um ensaio pedindo avanços mais lentos na inteligência artificial de fronteira. O CEO da OpenAI, Sam Altman, endossou parte da proposta, enquanto Musk escreveu que “Dario está certo”, de acordo com a Reuters.
Yakovenko vincula o ritmo da IA a incentivos financeiros
O comentário de Yakovenko apresentou a lucratividade como um possível motivo para desacelerar o desenvolvimento de modelos, mas o cofundador da Solana enquadrou a ideia como uma observação sarcástica. Seu post não continha evidências de que Anthropic, OpenAI ou xAI tivessem coordenado suas declarações por razões financeiras.
Nenhuma empresa nomeada confirmou que seu apoio ao desenvolvimento mais lento depende de atingir uma avaliação de US$ 1 trilhão. A proposta de Amodei, em vez disso, cita falhas de controle de modelos, riscos cibernéticos e a velocidade com que os sistemas de IA estão ajudando a criar sistemas mais novos.
A Reuters relatou que Anthropic e OpenAI estavam se preparando para potenciais ofertas públicas iniciais. O relatório descreveu incentivos financeiros em torno do desenvolvimento de modelos, mas não estabeleceu que qualquer das empresas tivesse atingido uma capitalização de mercado de US$ 1 trilhão ou tivesse condicionado a lucratividade a essa avaliação.
Como as empresas permanecem de capital fechado, referências à capitalização de mercado só podem descrever estimativas de transações privadas ou listagens propostas. Yakovenko não explicou se seu número se referia à Anthropic, OpenAI, xAI ou ao setor de IA de fronteira coletivamente.
Sua declaração, portanto, representa comentário pessoal, não uma projeção financeira divulgada pela Solana Labs, Anthropic, OpenAI ou xAI. Nenhuma declaração da Solana Foundation conectou a rede blockchain ou seu token SOL à disputa política de IA.
Amodei quer o desenvolvimento da IA de fronteira com ritmo, não interrompido
Em seu ensaio “We Must Pace the Frontier”, Amodei disse que os desenvolvedores deveriam desacelerar a taxa com que melhoram as capacidades dos modelos. Ele distinguiu o ritmo de parar o treinamento de modelos ou encerrar a pesquisa técnica.
“Devemos desacelerar o ritmo com que melhoramos as capacidades dos modelos de IA”, escreveu Amodei. Ele disse que o progresso poderia permanecer rápido enquanto os desenvolvedores passam mais tempo testando salvaguardas, estudando o comportamento dos modelos e permitindo que avaliadores externos examinem seu trabalho.
A proposta contém três estágios. A Anthropic planeja dar a avaliadores terceirizados acesso contínuo comparável ao acesso detido por funcionários internos que avaliam riscos. Amodei citou a organização Model Evaluation and Threat Research, conhecida como METR, como exemplo.
Um segundo estágio pede que empresas de IA de fronteira em países democráticos coordenem requisitos comuns de segurança e limites para o crescimento descontrolado de capacidades. Amodei reconheceu que partes de tal coordenação poderiam levantar questões antitruste e podem exigir autorização governamental restrita.
Sua terceira etapa exige coordenação internacional, incluindo possíveis acordos com a China. O ensaio descreve vários níveis possíveis, que vão desde restrições a armas biológicas assistidas por IA até um limite eventual para a melhoria rápida e automatizada de modelos.
Amodei apresentou uma pausa abrangente como a forma menos provável de acordo internacional, porque a verificação seria difícil. Ele argumentou que qualquer arranjo deveria preservar a posição tecnológica dos Estados Unidos e de seus aliados.
Altman e Musk apoiaram partes do plano
O CEO da OpenAI, Sam Altman, deu um endosso direto à proposta em uma postagem de 12 de setembro. “Concordo com Dario que precisamos controlar o ritmo da fronteira”, escreveu Altman.
Altman aceitou especificamente o apelo de Amodei por avaliadores externos incorporados. “Comprometer-se a ter avaliadores independentes com acesso semelhante ao de funcionários é uma ótima ideia, e faremos o mesmo”, disse ele. A OpenAI prometeu mais informações, mas não forneceu data de implementação, nome do avaliador ou termos de acesso.
Musk respondeu de forma mais breve. A Reuters e o Financial Times relataram que ele repostou o ensaio de Amodei e escreveu: “Dario está certo.” A resposta pública não especificou quais partes do plano de três etapas a xAI adotaria.
As declarações disponíveis, portanto, apoiam a inclusão de Musk no grupo de executivos que apoiaram Amodei. Elas não estabelecem que Musk, Altman e Amodei desenvolveram conjuntamente o plano ou concordaram com seus detalhes regulatórios.
Nenhum dos três executivos endossou publicamente a conexão sugerida por Yakovenko entre o ritmo e avaliações de trilhões de dólares. A afirmação de Yakovenko permanece como sua caracterização dos motivos deles.
Sacks rejeita a coordenação do setor como necessária
Em uma postagem separada no X, David Sacks disse que a Anthropic e a OpenAI poderiam desacelerar seu próprio desenvolvimento sem exigir que concorrentes ou legisladores participassem.
“Vocês são a fronteira”, escreveu Sacks, dirigindo-se a Amodei e Altman. Ele descreveu as duas empresas como detentoras de um “duopólio em inteligência de fronteira”, uma afirmação baseada em sua avaliação da capacidade dos modelos, crescimento de receita e participação de mercado.
Sacks disse que apoiaria uma desaceleração voluntária se sistemas não lançados apresentassem riscos graves o suficiente para preocupar seus desenvolvedores. Ele contestou a necessidade de uma isenção antitruste, um sistema de aprovação regulatória ou avaliadores com autoridade sobre laboratórios concorrentes.
No entanto, sua postagem acusou as empresas de buscar uma possível “captura regulatória”, mas não apresentou evidências de um acordo entre a Anthropic e a OpenAI para excluir concorrentes. Nenhuma das empresas havia aceitado publicamente a descrição de Sacks até 13 de setembro.
Sacks levantou a exposição à responsabilidade civil pelo produto como outra possível razão para as empresas favorecerem sistemas mais previsíveis. Ele argumentou que os clientes já punem modelos que se comportam de maneiras não autorizadas ou não confiáveis. As empresas não confirmaram que preocupações com responsabilidade motivaram seus endossos.
A postagem questionou se a China participaria de um acordo global sobre IA. O ensaio de Amodei reconhece o mesmo problema de verificação, embora Amodei ainda apoie negociações sobre riscos definidos de forma restrita.
Avaliações externas são o próximo passo prometido
A Anthropic se comprometeu a convidar uma equipe de revisão externa para seu processo interno de segurança. Seu ensaio diz que os revisores devem receber laptops da empresa, acesso ao escritório e permissões semelhantes às da equipe interna de avaliação de riscos, sujeitas a restrições legais e de confidencialidade.
Os revisores planejados teriam permissão para publicar descobertas sem que a Anthropic controlasse suas conclusões. Redações limitadas poderiam abranger informações legalmente privilegiadas, sensíveis à segurança, comercialmente sensíveis ou confidenciais de terceiros. Nenhum contrato de avaliador ou data de início acompanhou o ensaio. A OpenAI prometeu adotar um sistema semelhante. Altman disse que a empresa divulgaria mais detalhes “em breve”, deixando o avaliador, o escopo e as regras de publicação sem resposta.
Legisladores dos EUA estão considerando abordagens mais restritivas. Como o crypto.news relatou anteriormente, uma proposta Sanders-Casar busca uma proibição permanente da superinteligência artificial e uma suspensão temporária do trabalho avançado em IA até que um novo regulador federal estabeleça regras de segurança. O projeto de lei completo não havia sido formalmente apresentado quando seus patrocinadores divulgaram seu resumo.
As preocupações com a segurança cibernética continuam a fazer parte da discussão política. Em cobertura relacionada, um documento do Banco de Compensações Internacionais alertou que a IA pode reduzir as janelas de aplicação de patches de software de semanas para minutos, à medida que sistemas automatizados identificam e exploram vulnerabilidades mais rapidamente.
Amodei pediu aos laboratórios de fronteira que adotem avaliações incorporadas e coordenem padrões de segurança, enquanto Altman comprometeu a OpenAI com avaliação externa sem publicar um cronograma.
