La divisi√≥n de Facebook de desarrollo de inteligencia artificial cre√≥ un sistema dedicado a las negociaciones. D√≠as m√°s tarde se sus primeras pruebas el sistema comenz√≥ a conversar en un lenguaje extra√Īo y aparentemente err√≥neo. Sin embargo, no era un error, hab√≠a creado su propio idioma y Facebook ha decidido apagarlo.

Advertisement

La IA constaba de dos agentes que se dedicaban a negociar, llamados Bob y Alice. Sus creadores querían probar cómo un sistema de este tipo podía aprender a negociar, pero a los pocos días notaron que ya no estaban hablando en inglés, sino en algo parecido. Sus conversaciones parecían basarse en palabras aleatorias y sin nada de sentido.

Bob: ‚ÄúI can i i everything else‚ÄĚ

Alice: ‚Äúballs have zero to me to me to me to me to me to me to me to‚ÄĚ

Traducido al espa√Īol:

Bob: ‚ÄúYo puedo yo yo todo lo dem√°s‚ÄĚ

Alice: ‚Äúbolas tienen cero a mi a mi a mi a mi a mi a mi a‚ÄĚ

Lo que detectaron los desarrolladores es que en lo que parec√≠an ser frases sin sentido, hab√≠a un patr√≥n. B√°sicamente, la IA hab√≠a creado su propio idioma, uno que consideraba mucho m√°s efectivo y al grano que el ingl√©s. Lo que los investigadores han podido determinar es que ‚Äúyo‚ÄĚ y ‚Äúa mi‚ÄĚ reflejan la cantidad de objetos que obtendr√°n en el intercambio. Son frases m√°s l√≥gicas que adornadas, como solemos hacer en tantos idiomas ‚Äúhumanos‚ÄĚ.

Advertisement

El problema que esto representa para los desarrolladores de IA es que si un sistema de inteligencia artificial decidiera ignorar el idioma en el que fue programada y crear el suyo propio por ser ‚Äúm√°s eficiente‚ÄĚ, esto supondr√≠a una enorme dificultad para el desarrollo y la adopci√≥n de redes neuronales y, en general, para la creaci√≥n de nuevas tecnolog√≠as basadas en la IA. B√°sicamente, si la IA lo quisiera, ser√≠a imposible comunicarnos con ella. Esto significa la p√©rdida de control del programador u operador sobre la inteligencia artificial.

Facebook apagó este sistema antes de que perdieran el control por completo, para trabajar en soluciones y seguir innovando en la materia. No es la primera vez que esto sucede, dado que a Google también se le salió de control el lenguaje de una IA que había desarrollado.

Advertisement

Curiosamente, Mark Zuckerberg defendi√≥ el desarrollo y los avances en materia de inteligencia artificial despu√©s de que Elon Musk hablara de regularla ‚Äúantes de que fuera demasiado tarde‚ÄĚ. En esta ocasi√≥n no hablamos del nacimiento de Skynet ni el alzamiento de las m√°quinas, pero s√≠ de la p√©rdida de tiempo, inversi√≥n, desarrollo y un sistema completo por decisi√≥n propia. [Fast Co. v√≠a Angel Jimenez / Digital Journal]


Síguenos también en Twitter, Facebook y Flipboard.