La administración Biden está tratando de asumir un papel paternalista en la gestión del desarrollo de la IA para las principales empresas tecnológicas. No está liderando exactamente desde frente, pero en cambio está colocando una mano suave y reafirmante sobre los hombros de las grandes tecnológicas, diciéndoles que sean cautelosos y abiertos cómo diseñan el futuro de la tecnología transformadora.
Algunas de las mayores empresas tecnológicas han aceptado el compromiso voluntario de la Casa Blanca sobre la IA ética, incluidas algunas empresas que ya la utilizan. para ayudar a los militares a matar más eficaz y para monitorear a los ciudadanos en casa.
El martes, la Casa Blanca proclamado que otras ocho grandes empresas tecnológicas han aceptado la guía del presidente Joe Biden. Estos compromisos incluyen que las empresas compartirán información sobre seguridad y salvaguardia con otros fabricantes de IA. Tendrían que compartir información con el público sobre las capacidades y limitaciones de su IA y usarla para “ayudar” abordar los mayores desafíos de la sociedad”. Entre las pocas empresas tecnológicas que aceptaron el último acuerdo de cooperación de la Casa Blanca se encuentra el contratista de defensa Palantir, un Compañía de análisis de datos a puerta cerrada conocida por sus conexiones con agencias de espionaje como la CIA y el FBI, así como con gobiernos y militares de todo el mundo. mundo.
Las otras siete empresas que aceptaron el compromiso voluntario incluyen importantes empresas de productos como Adobe, IBM, Nvidia y Salesforce. Además, varias Empresas de IA como Cohere, Scale AI y Stability se han unido a empresas como Microsoft, OpenAI y Google en facilitar pruebas y marcas de agua de terceros para sus sistemas de inteligencia artificial.
Estos acuerdos vagos son relativamente superficiales y no mencionan que las empresas de IA compartan lo que hay en sus datos generativos de entrenamiento de IA. Estos modelos de IA cada vez más opacos desarrollados por muchas de las empresas que cumplen con las normas son un punto conflictivo para los especialistas en ética de la IA. La Casa Blanca dijo en su Comunicado de prensa la administración Biden está desarrollando una orden ejecutiva sobre la IA para “proteger los derechos y la seguridad de los estadounidenses», pero el comunicado ofreció poco sin detalles sobre lo que eso implica.
A pesar de los elevados objetivos de la rama ejecutiva en materia de IA limpia y segura, Palantir ya es una de las grandes empresas tecnológicas más citadas para preguntas sobre ética tecnológica, o realmente la falta de ella. La empresa de análisis de datos tomó la iniciativa en la creación de los sistemas de datos utilizados por Inmigración de EE. UU. y el Servicio de Aduanas, que sólo ha ayudado a la agencia espiar a la gente en los Estados Unidos y atrapar a los inmigrantes indocumentados. Y esa es sólo la punta del iceberg, como hacen los críticos llamado Palantir para repostar software racista de vigilancia policial predictiva.
El CTO de Palantir, Shyam Sankar, hizo comentarios anteriormente durante una audiencia del Comité de Servicios Armados del Senado de que cualquier tipo de pausa en el desarrollo de la IA significaría que China podría superar a Estados Unidos en supremacía tecnológica. Se mostró inflexible en que Estados Unidos gaste aún más de su presupuesto de defensa en Invertir aún más dinero en “capacidades que aterrorizarán a nuestros adversarios”.
Imaginemos el uso de la IA para la guerra de información, como El CEO de Palantir, Alex Karp, insistió durante una cumbre en febrero sobre tecnología militar de IA. La empresa ya está facilitando su software de análisis de datos para la selección de objetivos en el campo de batalla para el ejército ucraniano, Karp. según se informa dijo. Aun así, el CEO mencionó que es necesario que haya una “arquitectura que permita la transparencia en las fuentes de datos”, lo cual debería ser Por supuesto, Palantir no ha sido exactamente abierto acerca de sus propios datos para ninguno de sus muchos contratos militares.
En una declaración por correo electrónico a Gizmodo, el presidente del gobierno estadounidense de Palantir, Akash Jain, dijo “Hoy, Palantir, junto con otras empresas líderes en IA, asumió una serie de compromisos voluntarios para promover una gobernanza de IA efectiva y significativa, que es esencial para la competencia abierta y el mantenimiento del liderazgo estadounidense en innovación y tecnología”. La compañía no respondió a las preguntas de Gizmodo sobre su ejército en curso y gobierno IA contratos.
Eso no quiere decir que otras grandes empresas tecnológicas, incluidas Google y Microsoft, no hayan tenido sus propios acuerdos con contratistas militares, como El incómodo proyecto HoloLens centrado en lo militar. Google fue una vez el líder del contrato militar llamado Proyecto Maven, un programa del Departamento de Defensa de EE.UU. que intenta usar la IA para analice personas y objetivos potenciales a partir de imágenes de drones, sin la necesidad de intervención humana. Google abandonó ese proyecto después de las protestas en 2018. pero en 2019 los informes mostraron Palantir había recogido donde Google lo dejó.
Hasta ahora, la administración Biden se ha centrado en recomendaciones no vinculantes y otros órdenes ejecutivas para intentar y controlar la invasión de la proliferación de IA , dijo el Jefe de Gabinete de la Casa Blanca, Jeff Zeints. Reuters La administración está “tirando de todas las palancas que tenemos” para gestionar los riesgos de la IA. Aun así, no estamos ni cerca de viendo una regulación real de la IA del Congreso, pero conociendo la La mano que los desarrolladores de IA quieren jugar en la elaboración de cualquier nueva ley., hay pocas o ninguna señal de que veremos restricciones reales impuestas al desarrollo de una IA que demuele la privacidad y se centra en lo militar.
Actualización 12/09/23 a las 4:06 pm ET: Esta publicación fue actualizada para incluir una declaración del presidente de Palantir USG Akash Jain.
Este contenido ha sido traducido automáticamente del material original. Debido a los matices de la traducción automática, pueden existir ligeras diferencias. Para la versión original, haga clic aquí.