Un agente de IA es un asistente que no solo contesta: hace cosas por vos, como mover plata, mandar mails o pagar. Esta semana dos noticias mostraron cómo se lo está frenando, y qué queda sin resolver.
Qué pasó
En la llamada de resultados del 13 de octubre, JPMorgan explicó su postura. Una vocera confirmó a CNBC que el banco hoy bloquea a los agentes externos que operan en nombre de clientes minoristas. Su director financiero, Jeremy Barnum, dijo según American Banker que algunos servicios que mueven plata por los clientes se apoyan en compartir credenciales, algo a lo que el banco se opone hace tiempo: "no es seguro, y en la medida en que podamos bloquearlos, los estamos bloqueando para proteger a los clientes y a nosotros".
Y agregó: "Es importante que los clientes entiendan que si entregan sus credenciales al agente y este hace algo que no quieren, eso va a ser responsabilidad de ellos, y esa no es una situación ideal."
Una semana después, el 21 de octubre, Anthropic presentó Claude Duet, una app donde Claude trabaja como asistente proactivo. Cada mañana te resume lo importante de tus apps, avisa cuando algo te necesita y sigue con tus tareas aunque apagues el celular. Antes de enviar un mensaje, pagar, firmar o borrar algo, te muestra qué va a hacer y espera tu aprobación. Según la empresa, nunca ve directamente tus contraseñas, paga con una tarjeta virtual y tiene prohibido operar en bolsa o mover plata entre cuentas, incluso con tu permiso. Por ahora es una vista previa con lista de espera, solo para suscriptores Pro y Max de Estados Unidos.
Por qué importa
No están disponibles acá, pero la pregunta sí llega antes que los productos: cada vez que una herramienta te pide una clave o un permiso amplio, decidís cuánto le soltás. Y cuando algo sale mal, todavía no está claro quién responde.
La lectura Birria
Bloquear y pedir permiso son dos maneras de frenar al agente: el banco lo hace desde afuera, Duet desde adentro. Lo que queda abierto es otra cosa: quién carga con el riesgo cuando, aun con freno, algo falla, o cuando el permiso se da por costumbre, sin leer. Hoy, según el banco, ese riesgo lo carga quien entregó las claves.
La salida más simple que vemos es la que usa Duet: no dar las llaves. Una tarjeta virtual con tope, en lugar de la clave del banco, le pone un límite concreto a lo que puede salir mal.
Dos límites de lo que sabemos: Anthropic admite que Duet puede malinterpretar un hilo o errar la urgencia, y en las fuentes que revisamos no vimos casos confirmados de clientes que hayan perdido plata por un agente. La discusión es sobre riesgos, no sobre hechos consumados. ¿Cuánto le soltarías a un agente, y quién debería responder si se equivoca?
Si querés profundizar
- American Banker — JPMorgan warns of risks to consumers who rely on AI agents
- CNBC — JPMorgan Chase blocks outside AI agents from directly accessing accounts
- Anthropic — Introducing Claude Duet
Esta nota es parte del newsletter de Comunidad Birria del 28 de octubre de 2026. Si querés recibirlo cada semana, sumate acá: quiero recibirlo.
También en esta edición: PHP2Shell: qué es y qué hacer si tenés un sitio web