Para que una inteligencia artificial recuerde que a tu pareja le gustan determinadas flores, que un amigo está buscando departamento o que llevas meses hablando con un compañero sobre un proyecto, primero tiene que aprender bastante sobre ellos.
Muse ha llevado esa lógica mucho más lejos de lo que parecía desde fuera.
Investigadores de seguridad han conseguido acceder a instrucciones internas del nuevo agente personal de Meta simplemente pidiéndole desde el propio chat que compartiera parte de sus archivos. Uno de esos prompts, analizado por WIRED, ordena al sistema crear “una página para cada persona en la vida del usuario”, un proceso que puede ejecutarse cada hora y abarcar familiares, parejas, amigos, compañeros de trabajo, colaboradores e incluso personas a las que el usuario sigue. La consecuencia es bastante peculiar: para conocerte mejor a ti, Muse también necesita conocer a quienes te rodean.
La IA no guarda solo nombres: intenta reconstruir relaciones
Esas páginas pueden comenzar prácticamente vacías y crecer a medida que Muse encuentra nueva información. Las instrucciones contemplan apartados dedicados a hechos sobre una persona, historia compartida, intereses comunes, asuntos pendientes y hasta la propia naturaleza de la relación. Puede registrar dónde vive alguien, a qué se dedica, cumpleaños, aniversarios o episodios anteriores como viajes, discusiones resueltas y objetivos compartidos.
Hay incluso un apartado destinado a “fortalecer” la relación. Muse puede recordar que existe un motivo para llamar a alguien, sugerir volver sobre algo que esa persona comentó anteriormente o señalar una fecha importante que convendría no olvidar. Meta no esconde que la memoria es fundamental para el producto. Al presentar Muse en septiembre, la compañía puso como ejemplo precisamente que el agente pudiera recordar restricciones alimentarias de amigos antes de organizar una cena o recuperar detalles mencionados una sola vez.
La diferencia está en cómo se estructura toda esa información. Un amigo que jamás instaló Muse puede acabar teniendo una ficha dentro de la máquina virtual de otra persona simplemente porque aparece repetidamente en sus correos, mensajes, calendario o conversaciones con el agente.
El consentimiento empieza a volverse bastante extraño
Meta argumenta que un agente verdaderamente útil necesita entender no solo al usuario, sino también el contexto de quienes interactúan con él. Según explicó un portavoz a WIRED, Muse obtiene esa información de fuentes públicas y de aquello que el propio usuario decide compartir. La compañía también afirma que el sistema intenta trabajar únicamente con evidencias disponibles y que inventar detalles es peor que dejar una ficha incompleta. Pero aparece un problema difícil de resolver: la persona descrita en esa ficha no necesariamente decidió compartir nada con Meta.
Puede ser el usuario quien conectó su correo, sus mensajes o sus servicios. La información de terceros llega indirectamente. Carissa Véliz, del Institute for Ethics in AI de Oxford, apunta además a otro elemento: estas herramientas no dependen únicamente de los datos explícitos. También pueden inferir relaciones, prioridades o situaciones personales a partir de información dispersa.
Meta ha construido fuertes barreras técnicas. La duda es otra
Muse funciona dentro de una máquina virtual dedicada para cada usuario. Meta asegura que otros agentes no pueden acceder a ella, que las conexiones externas pueden revocarse y que acciones sensibles (como enviar un correo o comprar algo) requieren confirmación. También existe un registro de actividad y es posible pedir al agente que olvide información.
Eso protege frente a determinados problemas de seguridad. Pero no responde completamente a una pregunta diferente: qué ocurre cuando alguien acepta que una IA conozca su vida y, al hacerlo, termina entregándole también fragmentos de las vidas de todos los demás.
Esa puede convertirse en una de las grandes paradojas de los agentes personales. Para ser verdaderamente útiles tendrán que saber muchísimo de nosotros. Y cuanto más sepan de nosotros, más inevitable será que terminen sabiendo también de personas que nunca hablaron con ellos.
