Problema de IA da Apple Deixou Exploit de US$ 200 Mil Sem Ser Reportado

A Apple limitou quantos relatórios de vulnerabilidades um pesquisador pode registrar de uma só vez, depois que sua equipe de segurança foi inundada por submissões geradas por IA que inventam falhas que não existem, Financial Timesinformou.

O limite já custou um caso real. A startup de segurança cibernética Bynario, com sede em Milão, disse ao jornal que usou o ChatGPT da OpenAI para descobrir mais de 50 bugs na versão mais recente do macOS ao longo de três semanas. Entre eles estava uma cadeia de exploração de escalonamento de privilégios, uma classe de falha que dá a um atacante controle irrestrito de uma máquina.

A Bynario não pôde relatá-lo, porque a Apple já havia recusado novas submissões. O CEO Alfredo Pesoli avaliou o valor da exploração no mercado criminoso entre US$ 100.000 e US$ 200.000, e disse que "mantenedores e fornecedores foram inundados pela quantidade enorme de bugs" sendo descobertos. A Apple disse ao FT que agora está em contato com a empresa e revisando seu trabalho.

A Apple agiu em junho, adicionando um limite e um período de espera de 30 dias em seu portal de segurança, com pesquisadores obrigados a solicitar uma cota maior. Cada suposta falha ainda precisa de um humano para confirmá-la, embora a Apple esteja usando IA internamente para triagem da pilha. A Apple disse que "ajustou recentemente o número de novos relatórios que um pesquisador pode ter abertos de uma só vez", e que os pesquisadores podem solicitar um limite maior a qualquer momento.

As mesmas ferramentas estão funcionando para a Apple. Nas atualizações de segurança da semana passada, ela creditou software da Anthropic e da OpenAI por descobrir falhas, e trouxe cerca de cinco vezes mais correções do que um ciclo normal, de acordo com o FT.

Uma "inundação de submissões"

O problema do volume de relatórios de bugs por IA tem crescido nos últimos meses. Em maio, a empresa de segurança Bugcrowd, cujos clientes incluem a OpenAI, disse que as submissões através de sua plataforma mais que quadruplicaram ao longo de três semanas em março, e que a maioria era falsa. HackerOne e Nextcloud suspenderam seus programas pagos em abril, com a Nextcloud dizendo que nenhuma recompensa seria paga "independentemente da gravidade" até encontrar uma maneira de filtrar os relatórios de baixo esforço.

O volume é impulsionado pelas recompensas oferecidas, com Meta, Microsoft, Apple e Crypto.com pagando pelo menos US$ 58 milhões entre elas em 2025, enquanto o próprio nível mais alto da Apple chega a US$ 5 milhões por uma única descoberta.

Ao mesmo tempo, os LLMs estão se tornando cada vez mais hábeis em detectar bugs. Em março, a Anthropic introduziu o Mythos, um modelo focado em cibersegurança que ela inicialmente restringiu a empresas de tecnologia selecionadas, bancos e pesquisadores sob o Projeto Glasswing. A Mozilla disse que ele revelou 271 vulnerabilidades no Firefox durante testes internos.

Em maio, a startup de segurança com sede no Vietnã, Calif, disse que usou uma versão de pré-visualização para construir o primeiro exploit público de corrupção de memória do kernel do macOS capaz de sobreviver ao Memory Integrity Enforcement, a defesa que a Apple anunciou em setembro passado como a maior atualização de segurança de memória na história dos sistemas operacionais de consumo. A Calif encontrou os bugs em 25 de abril e tinha um exploit funcional em 1º de maio.

Em vez de registrar um relatório, a Calif levou o exploit pessoalmente à sede da Apple na Califórnia, dizendo que queria evitar "ser enterrada na enxurrada de submissões" em que os participantes do concurso de hacking Pwn2Own haviam ficado presos. A Bynario tentou o portal três meses depois e não conseguiu entrar.

Ameaças de IA em criptomoedas

Além de caçar ameaças, a IA também está sendo usada para engenhar exploits no espaço cripto. O fabricante da carteira Coldcard, Coinkite, sugeriu que a IA provavelmente foi usada para descobrir um bug em seu firmware de código aberto que passou despercebido por cinco anos, permitindo que atacantes roubassem mais de US$ 100 milhões de suas carteiras de hardware.

Isso acontece dois meses depois que a Zcash revelou que o pesquisador Taylor Hornby, trabalhando com Claude Opus 4.8, encontrou duas linhas de código em seu pool protegido Orchard que permitiam a falsificação indetectável de ZEC por quatro anos—levando a moeda de privacidade a lançar a atualização Ironwood no mês passado para resolver a vulnerabilidade.