Graphic: Jim Cooke (Foto: Getty)

Google se ha asociado con el Departamento de Defensa de Estados Unidos para ayudarle a desarrollar una inteligencia artificial que analice vídeos e imágenes capturados por drones, una alianza que desató una oleada de quejas y dudas entre los empleados del gigante de tecnología cuando se enteraron que Google está involucrado en el proyecto.

La participaci√≥n de Google con el Proyecto Maven del Departamento de Defensa se basa en desarrollar un sistema para identificar objetos en v√≠deos de drones. Esto se hab√≠a mantenido en secreto hasta ahora, pero la semana pasada lo comunicaron mediante un correo a los empleados de la compa√Ī√≠a, seg√ļn fuentes que pidieron mantenerse en el anonimato porque no est√°n autorizados a hablar del proyecto.

Advertisement

Algunos empleados de Google se sintieron indignados de que la compa√Ī√≠a ayude a los militares a desarrollar una tecnolog√≠a de vigilancia mediante drones, seg√ļn fuentes. Otros empleados mencionaron que este proyecto plantea dudas √©ticas acerca del desarrollo y uso del aprendizaje autom√°tico (tambi√©n conocido como aprendizaje de m√°quinas).

Eric Schmidt, parte de Google, mencion√≥ las preocupaciones de la industria de la tecnolog√≠a acerca de colaborar con el Pent√°gono durante una conferencia el a√Īo pasado. ‚ÄúExiste una preocupaci√≥n general en la comunidad tecnol√≥gica de que el complejo militar‚Äďindustrial podr√≠a usar su tecnolog√≠a para matar personas de manera incorrecta‚ÄĚ, coment√≥. Aunque Google dice que su participaci√≥n con el Proyecto Maven no tiene que ver con usos para combate, la situaci√≥n ha preocupado a muchos empleados, seg√ļn nuestras fuentes.

Advertisement

Maven es un proyecto del Pent√°gono (tambi√©n conocido como AWCFT) que comenz√≥ en abril de 2017 y avanz√≥ muy r√°pido. Su misi√≥n es ‚Äúacelerar la integraci√≥n del Departamento de Defensa (DoD) en el aprendizaje autom√°tico y el Big Data‚ÄĚ. Seg√ļn el Wall Streen Journal, el DoD gast√≥ 7.400 millones de d√≥lares en 2017 en √°reas relacionada a la inteligencia artificial.

La primera tarea del proyecto es ayudar al Pent√°gono a procesar de manera eficiente los v√≠deos recolectados diariamente por drones a√©reos. Son tantas im√°genes que los analistas humanos sencillamente no pueden mantener el ritmo, seg√ļn Greg Allen, miembro del Centro para una Nueva Seguridad Americana y coautor de un informe extenso sobre el uso de inteligencia artificial en el √°rea militar que fue publicado en julio de 2017. El DoD ha invertido muchos recursos en desarrollar tecnolog√≠as avanzadas para recolectar informaci√≥n durante los vuelos de drones, pero ha tardado en crear las herramientas necesarias para analizar esos datos.

‚ÄúAntes de Maven, nadie en el departamento ten√≠a la menor idea acerca de c√≥mo comprar, instalar e implementar una inteligencia artificial correctamente‚ÄĚ, escribe Allen.

Advertisement

Maven fue dise√Īado para usar aprendizaje autom√°tico para identificar veh√≠culos y otros objetos en v√≠deos de drones, quit√°ndole esa carga a los analistas. Seg√ļn el Pent√°gono, una de las primeras metas de Maven es proporcionar a los militares un sistema avanzado de visi√≥n computarizada, el cual ofrece la detecci√≥n e identificaci√≥n automatizada de objetos de 38 categor√≠as en v√≠deos de drones. Maven le ofrece al departamento la habilidad de rastrear personas que se desplazan de un lugar a otro.

La inteligencia artificial ya forma parte de algunas aplicaciones militares y policiales, pero los expertos advierten que estos sistemas podr√≠an estar sesgados en formas que no pueden detectarse f√°cilmente. Por ejemplo, ProPublica report√≥ en 2016 que un algoritmo dise√Īado para predecir la posibilidad de reincidencia en criminales presentaba prejuicios raciales.

Advertisement

Aunque la participaci√≥n de Google hizo que los empleados se preocuparan, es posible que el cat√°logo de productos de Google limite el acceso de la compa√Ī√≠a a los datos gubernamentales sensibles. Plataformas en la nube como Amazon y Microsoft Azure ofrecen productos orientados al gobierno dise√Īados para proteger informaci√≥n clasificada, pero Google no tiene productos similares actualmente.

Un representante de Google dijo a Gizmodo que la compa√Ī√≠a le ha proporcionado al Departamento de Defensa sus APIs de TensorFlow, com√ļnmente usadas en aplicaciones de aprendizaje autom√°tico, para ayudar a los analistas militares a detectar objetos en im√°genes. Aunque reconoce que puede ser pol√©mico usar aprendizaje de m√°quinas con fines militares, el representante dijo que la compa√Ī√≠a est√° trabajando en ‚Äúdesarrollar pol√≠ticas y medidas de seguridad‚ÄĚ en torno a su uso.

‚ÄúHemos trabajado con agencias del gobierno por muchos a√Īos, proporcionando soluciones tecnol√≥gicas. En este proyecto del DoD facilitamos las APIs de c√≥digo abierto de TensorFlow para asistir en el reconocimiento de objetos‚ÄĚ, asegur√≥. ‚ÄúLa tecnolog√≠a marca y selecciona im√°genes para que sean revisadas por humanos. El uso militar del aprendizaje autom√°tico genera preocupaciones, por lo que estamos discutiendo este tema tan importante internamente y con otros para desarrollar pol√≠ticas y medidas de seguridad alrededor del proyecto y, en general, del uso de nuestros sistemas de aprendizaje autom√°tico‚ÄĚ.

Advertisement

El Departamento de Defensa ten√≠a como meta una fecha l√≠mite muy apresurada para Maven. Se esperaba que estuviera listo y funcionando apenas seis meses despu√©s de dar inicio, y seg√ļn algunas fuentes comenz√≥ a ser usado el pasado mes de diciembre en la lucha contra ISIS.

Para poder lograr tenerlo listo a tiempo, el DoD trabajó junto a académicos y expertos en inteligencia artificial de la industria tecnológica, a través de su programa de incubación tecnológica y la Junta de Innovación de Defensa, un grupo de asesores creado por Ash Carter, exsecretario de defensa, para cerrar la brecha tecnológica entre el Pentágono y Silicon Valley.

Advertisement

Schmidt, quien el mes pasado renunci√≥ como presidente de Alphabet, la compa√Ī√≠a madre de Google, forma parte de la Junta de Innovaci√≥n de Defensa. Durante una reuni√≥n el pasado mes de julio, Schmidt y otros miembros discutieron la necesidad del DoD de crear un centro dedicado a mejorar las capacidades militares en materia de inteligencia artificial. Los miembros de la Junta fueron una especie de ‚Äúasesores‚ÄĚ en el proyecto.

Maven es supervisado por el subsecretario de inteligencia de defensa, el Teniente general John Shanahan fue seleccionado como director del proyecto. Seg√ļn Shanahan, Maven fue dise√Īado para ser la chispa ‚Äúque encender√≠a el inter√©s en la inteligencia artificial‚ÄĚ por parte de todo el Departamento de defensa.

Advertisement

En verano de 2017 el equipo de Maven se dedic√≥ a buscar aliados en la industria privada cuya experiencia los ayudara a hacer realidad sus sue√Īos de inteligencia artificial. En un evento de tecnolog√≠a para la defensa que se llev√≥ a cabo en Washington, el director del cuerpo de Marine para Maven, Coronel Drew Cukor, dijo que una relaci√≥n simbi√≥tica entre humanos y ordenadores es de vital importancia para ayudar a los sistemas armament√≠sticos a identificar objetos.

Al dirigirse a una multitud de expertos de tecnolog√≠a militar e industrial, algunos parte de Silicon Valley, Cukor asegur√≥ que Estados Unidos se encuentra en una carrera armamentista de inteligencia artificial. ‚ÄúMuchos de ustedes habr√°n notado que Eric Schmidt ahora dice que Google es una compa√Ī√≠a de inteligencia artificial y no una compa√Ī√≠a de datos‚ÄĚ, coment√≥, aunque no especific√≥ que Google fuera parte del desarrollo de Maven.

‚ÄúLa √ļnica forma de lograr lo que nos proponemos en materia de inteligencia artificial es si trabajamos con socios comerciales‚ÄĚ, dijo.

Advertisement

Un representante del Departamento de Defensa se neg√≥ a especificar lo que hace Google para Maven y si es la √ļnica compa√Ī√≠a privada involucrada en el proyecto.

‚ÄúAl igual que con otros programas del DoD, Maven no comenta al respecto de los detalles del proyecto, ni especificar√° los nombres de los contratistas involucrados‚ÄĚ, asegur√≥ el representante.