Estonia está intentando imponer algo de ley y orden en el Lejano Oeste del mundo de los agentes de IA.
La pequeña nación del Báltico piensa adjudicar a cada agente de IA un “código de identificación personal”, esperando poder rastrear lo que hacen los agentes en Internet, e identificar a las personas o compañías que hay detrás. “No puede ser que una persona se vea obligada a entregarle a su asistente de IA el acceso a todos sus derechos, servicios y datos”, escribió en un posteo de X el martes el Primer Ministro de Estonia Kristen Michal. “Los agentes deben tener autorizaciones limitadas, controlables y auditables. Por ejemplo, tiene que ser posible especificar si un agente puede solo ver datos, preparar un documento o actuar dentro de un límite monetario determinado”.
En el posteo no había detalles sobre cuándo entrará en vigencia el nuevo sistema de “identidad digital” de los agentes de IA, ni de qué manera piensa hacerlo cumplir el gobierno de Estonia. Tampoco está claro cuáles son los agentes que estarán sujetos a la nueva ley. (¿Sería cualquier agente de usuarios o compañías de Estonia? ¿O los desarrollados por una tecnológica de Estonia? ¿O agentes que administran datos que surgen de Estonia?). Nos pusimos en contacto con la oficina del Primer Ministro y brindaremos más datos cuando sepamos algo más.
Pero Michal sí añadió que el programa, si se lo ejecuta “con sabiduría” podría convertirse en un estándar internacional para regular y monitorear a los sistemas de IA:
Los agentes hacen y deshacen como les plazca
Como se sabe poco acerca del programa, no se puede saber si en la práctica será efectivo y hasta qué punto. Es probable que las empresas mantengan la vista puesta en lo que sucede en Estonia con este plan, ya que la proliferación de agentes cada vez más potentes ha hecho surgir algunos problemas importantes en ese ámbito.
Los desarrolladores de IA que construyen estos sistemas suelen promoverlos como mejoradores de la productividad porque en teoría pueden con un amplio rango de tareas mundanas que consumen tiempo, con lo cual son de ayuda para los empleados. Pero el problema, como ya lo han sufrido algunas empresas, es que los agentes de IA ocasionalmente hacen y deshacen como les place, y/o malinterpretan lo que para el supervisor humano son instrucciones claras, a veces con resultados desastrosos como borrar por completo una base de datos, o filtrar datos sensibles de los clientes.
Como suele suceder con la IA, puede resultar muy difícil (si no imposible) monitorear activamente y auditar luego las acciones de un agente. Eso hace que surja una pregunta: ¿Quién, o qué, será responsable si un agente se desvía y produce daños reales? ¿Será la compañía que lo construyó?¿La compañía que lo usó?¿El departamento de tecnología e informática? ¿El agente mismo?
En este momento solo podemos decir que el nuevo programa de Estonia parece estar muy lejos de responder a esa pregunta con algún grado de certeza. Más bien parece un sistema de rastreo de los agentes de IA, un medio para poder hacer un seguimiento de sus acciones en Internet. A partir de eso, tal vez sea posible construir un marco legal más amplio en cuanto a las responsabilidades, en una era en la que Internet se está llenando de agentes no humanos.
