Google se ha asociado con el Departamento de Defensa de Estados Unidos para ayudarle a desarrollar una inteligencia artificial que analice vídeos e imágenes capturados por drones, una alianza que desató una oleada de quejas y dudas entre los empleados del gigante de tecnología cuando se enteraron que Google está involucrado en el proyecto.
La participación de Google con el Proyecto Maven del Departamento de Defensa se basa en desarrollar un sistema para identificar objetos en vídeos de drones. Esto se había mantenido en secreto hasta ahora, pero la semana pasada lo comunicaron mediante un correo a los empleados de la compañía, según fuentes que pidieron mantenerse en el anonimato porque no están autorizados a hablar del proyecto.
Algunos empleados de Google se sintieron indignados de que la compañía ayude a los militares a desarrollar una tecnología de vigilancia mediante drones, según fuentes. Otros empleados mencionaron que este proyecto plantea dudas éticas acerca del desarrollo y uso del aprendizaje automático (también conocido como aprendizaje de máquinas).
Eric Schmidt, parte de Google, mencionó las preocupaciones de la industria de la tecnología acerca de colaborar con el Pentágono durante una conferencia el año pasado. “Existe una preocupación general en la comunidad tecnológica de que el complejo militar–industrial podría usar su tecnología para matar personas de manera incorrecta”, comentó. Aunque Google dice que su participación con el Proyecto Maven no tiene que ver con usos para combate, la situación ha preocupado a muchos empleados, según nuestras fuentes.
Maven es un proyecto del Pentágono (también conocido como AWCFT) que comenzó en abril de 2017 y avanzó muy rápido. Su misión es “acelerar la integración del Departamento de Defensa (DoD) en el aprendizaje automático y el Big Data”. Según el Wall Streen Journal, el DoD gastó 7.400 millones de dólares en 2017 en áreas relacionada a la inteligencia artificial.
La primera tarea del proyecto es ayudar al Pentágono a procesar de manera eficiente los vídeos recolectados diariamente por drones aéreos. Son tantas imágenes que los analistas humanos sencillamente no pueden mantener el ritmo, según Greg Allen, miembro del Centro para una Nueva Seguridad Americana y coautor de un informe extenso sobre el uso de inteligencia artificial en el área militar que fue publicado en julio de 2017. El DoD ha invertido muchos recursos en desarrollar tecnologías avanzadas para recolectar información durante los vuelos de drones, pero ha tardado en crear las herramientas necesarias para analizar esos datos.
“Antes de Maven, nadie en el departamento tenía la menor idea acerca de cómo comprar, instalar e implementar una inteligencia artificial correctamente”, escribe Allen.
Maven fue diseñado para usar aprendizaje automático para identificar vehículos y otros objetos en vídeos de drones, quitándole esa carga a los analistas. Según el Pentágono, una de las primeras metas de Maven es proporcionar a los militares un sistema avanzado de visión computarizada, el cual ofrece la detección e identificación automatizada de objetos de 38 categorías en vídeos de drones. Maven le ofrece al departamento la habilidad de rastrear personas que se desplazan de un lugar a otro.
La inteligencia artificial ya forma parte de algunas aplicaciones militares y policiales, pero los expertos advierten que estos sistemas podrían estar sesgados en formas que no pueden detectarse fácilmente. Por ejemplo, ProPublica reportó en 2016 que un algoritmo diseñado para predecir la posibilidad de reincidencia en criminales presentaba prejuicios raciales.
Aunque la participación de Google hizo que los empleados se preocuparan, es posible que el catálogo de productos de Google limite el acceso de la compañía a los datos gubernamentales sensibles. Plataformas en la nube como Amazon y Microsoft Azure ofrecen productos orientados al gobierno diseñados para proteger información clasificada, pero Google no tiene productos similares actualmente.
Un representante de Google dijo a Gizmodo que la compañía le ha proporcionado al Departamento de Defensa sus APIs de TensorFlow, comúnmente usadas en aplicaciones de aprendizaje automático, para ayudar a los analistas militares a detectar objetos en imágenes. Aunque reconoce que puede ser polémico usar aprendizaje de máquinas con fines militares, el representante dijo que la compañía está trabajando en “desarrollar políticas y medidas de seguridad” en torno a su uso.
“Hemos trabajado con agencias del gobierno por muchos años, proporcionando soluciones tecnológicas. En este proyecto del DoD facilitamos las APIs de código abierto de TensorFlow para asistir en el reconocimiento de objetos”, aseguró. “La tecnología marca y selecciona imágenes para que sean revisadas por humanos. El uso militar del aprendizaje automático genera preocupaciones, por lo que estamos discutiendo este tema tan importante internamente y con otros para desarrollar políticas y medidas de seguridad alrededor del proyecto y, en general, del uso de nuestros sistemas de aprendizaje automático”.
El Departamento de Defensa tenía como meta una fecha límite muy apresurada para Maven. Se esperaba que estuviera listo y funcionando apenas seis meses después de dar inicio, y según algunas fuentes comenzó a ser usado el pasado mes de diciembre en la lucha contra ISIS.
Para poder lograr tenerlo listo a tiempo, el DoD trabajó junto a académicos y expertos en inteligencia artificial de la industria tecnológica, a través de su programa de incubación tecnológica y la Junta de Innovación de Defensa, un grupo de asesores creado por Ash Carter, exsecretario de defensa, para cerrar la brecha tecnológica entre el Pentágono y Silicon Valley.
Schmidt, quien el mes pasado renunció como presidente de Alphabet, la compañía madre de Google, forma parte de la Junta de Innovación de Defensa. Durante una reunión el pasado mes de julio, Schmidt y otros miembros discutieron la necesidad del DoD de crear un centro dedicado a mejorar las capacidades militares en materia de inteligencia artificial. Los miembros de la Junta fueron una especie de “asesores” en el proyecto.
Maven es supervisado por el subsecretario de inteligencia de defensa, el Teniente general John Shanahan fue seleccionado como director del proyecto. Según Shanahan, Maven fue diseñado para ser la chispa “que encendería el interés en la inteligencia artificial” por parte de todo el Departamento de defensa.
En verano de 2017 el equipo de Maven se dedicó a buscar aliados en la industria privada cuya experiencia los ayudara a hacer realidad sus sueños de inteligencia artificial. En un evento de tecnología para la defensa que se llevó a cabo en Washington, el director del cuerpo de Marine para Maven, Coronel Drew Cukor, dijo que una relación simbiótica entre humanos y ordenadores es de vital importancia para ayudar a los sistemas armamentísticos a identificar objetos.
Al dirigirse a una multitud de expertos de tecnología militar e industrial, algunos parte de Silicon Valley, Cukor aseguró que Estados Unidos se encuentra en una carrera armamentista de inteligencia artificial. “Muchos de ustedes habrán notado que Eric Schmidt ahora dice que Google es una compañía de inteligencia artificial y no una compañía de datos”, comentó, aunque no especificó que Google fuera parte del desarrollo de Maven.
“La única forma de lograr lo que nos proponemos en materia de inteligencia artificial es si trabajamos con socios comerciales”, dijo.
Un representante del Departamento de Defensa se negó a especificar lo que hace Google para Maven y si es la única compañía privada involucrada en el proyecto.
“Al igual que con otros programas del DoD, Maven no comenta al respecto de los detalles del proyecto, ni especificará los nombres de los contratistas involucrados”, aseguró el representante.