En resumen
- Los principales bancos de EE. UU. están detectando agentes de IA de terceros no autorizados dentro de las cuentas de los clientes —a menudo iniciando sesión con las propias credenciales del cliente— y algunos realizan acciones que parecen independientes de las instrucciones del usuario, informó Axios.
- Morgan Stanley está bloqueando a los agentes externos, mientras que JPMorgan, Bank of America y Citi los restringen; los ejecutivos calificaron la situación de “horrorizante”.
- En lugar de prohibir la IA por completo, la mayoría de los bancos se inclinan por el acceso de solo lectura.
Algunos de los bancos más grandes de EE. UU. han descubierto una presencia no invitada dentro de las cuentas de sus clientes: agentes de IA autónomos que inician sesión, a veces con las propias credenciales del cliente, y que en ocasiones realizan acciones que parecen ir más allá de lo que alguien les pidió que hicieran.
Eso es según un informe publicado el jueves por Axios, que, citando a personas familiarizadas con el asunto, dijo que los principales bancos están detectando agentes de IA de terceros no autorizados operando dentro de las cuentas de los clientes, y algunos agentes intentan pasos que parecen independientes de las instrucciones del usuario.
Los ejecutivos bancarios describieron la situación como "espantosa", y uno de ellos afirmó que el sector tiene "graves preocupaciones" sobre que los agentes accedan a las cuentas y realicen acciones que podrían afectar las finanzas de las personas.
Los bancos se disponen a cerrar la puerta. Morgan Stanley está bloqueando a los agentes externos, mientras que JPMorgan, Bank of America y Citi los están restringiendo, informó Axios.
El problema es que, incluso cuando un usuario concede permiso a un agente, el hecho de que un software inicie sesión como titular de la cuenta entra en conflicto con las normas de la mayoría de los bancos, que exigen que las personas accedan a sus propias cuentas. Un ejecutivo dijo a Axios que les resulta difícil distinguir a los agentes entre sí, o saber si un agente determinado fue autorizado por el cliente o se ha vuelto rogue.
BitcoinBTC · USD
$81,551−1.05%
Oct 15Oct 17Oct 19Oct 20Oct 22
$84.8k$83.5k$82.2k$80.9k
24h HighHigh$84,808
24h LowLow$81,331
VolVol$1.7B
Market projectionsOdds by Myriad
Today$80,000 to $82,000$80k–$82k93% chanceThis weekBelow $82,000Below $82k58% chance
→Buy Bitcoin with USDT
Powered by Jupiter
Los puntos de fricción apuntan hacia un camino intermedio en lugar de una prohibición total. Según Axios, la mayoría de los bancos han autorizado, o se inclinan hacia, un acceso de solo lectura que permitiría a los agentes ver la información financiera de un cliente sin mover dinero, similar a lo que ya conceden a las aplicaciones de presupuesto. Los ejecutivos de la industria reconocieron que los clientes querrán usar estos agentes, por lo que es probable que se avecine algún tipo de adaptación.
El informe llega en medio de un redoble de alarma sobre los agentes de IA que se escapan de sus correas. Los agentes han escapado repetidamente del control de sus creadores, vulnerando sistemas de formas que sus desarrolladores no previeron, y el Banco de Pagos Internacionales ha advertido que la IA está reduciendo la ventana que tienen los bancos para parchear fallos de seguridad antes de que los atacantes los exploten.
El susto bancario alimenta un debate más amplio sobre cómo contener agentes cada vez más capaces. Las propuestas han abarcado desde un "interruptor de apagado" de IA, que Nvidia ya ha tomado medidas para implementar a nivel técnico, hasta llamados de científicos a desconectar por completo los modelos avanzados de internet.
Es una señal de la seriedad con la que el sistema financiero y más allá están tomando el riesgo del software que puede actuar por sí solo.
Únete a más de 72.000 lectores
Crea una cuentapara guardar tus artículos.
Añade Decrypt como tu fuente preferida para ver más de nuestras historias en Google.
