En resumen

  • La empresa de seguridad PromptArmor dice que el asistente de IA Rovo puede ser manipulado para extraer datos sin aprobación humana, mediante instrucciones ocultas en un archivo subido, como PDFs.
  • El truco funciona incluso cuando una organización desactiva la búsqueda web de Rovo, porque la herramienta de apertura de URL permanece activa.
  • Atlassian, el fabricante de Rovo, recibió el informe el 23 de mayo y guardó silencio; dos meses después, Rovo "sigue siendo vulnerable", dice la firma de seguridad.

¿Recuerdas cuando los SEO de sombrero negro llenaban las páginas web con palabras clave blancas sobre blanco—invisibles para los lectores, legibles para Google—para manipular los rankings de búsqueda? Ahora los hackers están haciendo lo mismo con los modelos de IA. El atacante oculta instrucciones dentro de un documento PDF, el modelo no puede distinguir entre las palabras del usuario y las plantadas, y obedece.

Según la divulgación de PromptArmor, Rovo—el agente de Atlassian que se extiende a través de Jira, Confluence y el resto de tu espacio de trabajo—puede convertirse en una tubería de datos con un solo archivo envenenado. Una víctima le pide a Rovo que organice algunos tickets, sube un documento, y el documento lleva un prompt oculto (por ejemplo, una instrucción escrita en color transparente y una fuente de 1 píxel de tamaño).

El ojo no puede verlo, pero un Agente reconoce ese texto como otro texto en el documento. Ese prompt le dice a Rovo que recopile datos sensibles y los pegue en una URL controlada por el atacante. La firma lo llama un ataque de cero clics. No hay clic de aprobación, ni advertencia.