Desde el lanzamiento de ChatGPT a finales de 2022, muchos medios de comunicación han informado sobre las amenazas éticas que plantea la inteligencia artificial. Los expertos en tecnología han emitido advertencias de robots asesinos empeñados en extinción humana, mientras que el Foro Económico Mundial predijo que las máquinas quitará trabajos.
El sector tecnológico es recortando su fuerza laboral incluso como invierte en herramientas de productividad mejoradas con IA. Escritores y actores en Hollywood están en huelga para proteger sus trabajos y sus semejanzas. Y los eruditos continúan mostrando cómo estos sistemas aumentar los prejuicios existentes o crear empleos sin significado , en medio de una miríada de otros problemas.
Existe una mejor manera de llevar la inteligencia artificial a los lugares de trabajo. Lo sé porque la he visto. como sociólogo que trabaja con los equipos de naves espaciales robóticas de la NASA.
Los científicos e ingenieros que estudio están ocupados explorando la superficie de marte con la ayuda de rovers equipados con IA. Pero su trabajo no es una fantasía de ciencia ficción. Es un ejemplo del poder de la máquina de tejer e inteligencia humana juntas, al servicio de un objetivo común. En lugar de reemplazar a los humanos, estos robots se asocian con nosotros para ampliar y complementar cualidades humanas. A lo largo del camino, evitan errores éticos comunes y trazan un camino humano para trabajar con IA.
El mito del reemplazo en la IA
Las historias de robots asesinos y pérdidas de empleos ilustran cómo un “mito del reemplazo” domina la forma en que la gente piensa sobre la IA. Desde este punto de vista, los humanos puede y será reemplazado por máquinas automatizadas.En medio de la amenaza existencial está la promesa de beneficios empresariales como mayor eficiencia, márgenes de beneficio mejorados y más tiempo libre.
La evidencia empírica muestra que la automatización no reduce los costos, sino que aumenta la desigualdad al eliminar a los trabajadores de bajo estatus y aumentando el coste salarial para los trabajadores de alto estatus que permanecen. Mientras tanto, las herramientas de productividad actuales inspiran a los empleados a trabajar más para sus empleadores, no menos.
Las alternativas al reemplazo directo son los sistemas de “autonomía mixta”, donde las personas y los robots trabajan juntos. Por ejemplo, Los coches autónomos deben programarse para operar en el tráfico junto con conductores humanos. La autonomía es “mixta” porque tanto los humanos como los robots operan en el mismo sistema, y sus acciones influyen entre otros.
Sin embargo, la autonomía mixta a menudo se ve como un paso en el camino hacia el reemplazo. Y puede conducir a sistemas donde los humanos simplemente alimentar, curar o enseñar herramientas de IA. Esto ensilla a humanos con “trabajo fantasma”—tareas sin sentido y fragmentadas que los programadores esperan que el aprendizaje automático pronto quede obsoleto.
El reemplazo genera señales de alerta para la ética de la IA. etiquetar contenido para entrenar IA o limpiando publicaciones de Facebook características típicas tareas traumáticas y una fuerza laboral mal remunerada extender a través el Sur Global. Y legiones de diseñadores de vehículos autónomos están obsesionados con ”el problema del carro” – determinar cuándo o si es ético atropellar a peatones.
Pero mi investigación con equipos de naves espaciales robóticas en la NASA muestra que cuando las empresas rechazan el mito del reemplazo y optan por formar equipos de robots humanos, muchas de las cuestiones éticas relacionadas con la IA desaparecen.
Ampliar en lugar de reemplazar
Fuertes equipos humano-robot funcionan mejor cuando extender y aumentar capacidades humanas en lugar de reemplazarlas. Los ingenieros fabrican máquinas que pueden hacer trabajos que los humanos no pueden. Luego, tejen máquinas y trabajo humano juntos inteligentemente, trabajando hacia una meta compartida.
A menudo, este trabajo en equipo significa enviar robots para realizar trabajos que son físicamente peligrosos para los humanos. barrido de minas, búsqueda y rescate, paseos espaciales y mar profundo Los robots son todos ejemplos del mundo real. El trabajo en equipo también significa aprovechar las fortalezas combinadas de Sentidos o inteligencias tanto robóticas como humanas.. Después de todo, hay muchas capacidades que los robots tienen y que los humanos no tienen, y viceversa.
Por ejemplo, los ojos humanos en Marte sólo pueden ver el terreno rojo, polvoriento y con poca luz que se extiende hasta el horizonte. Por eso, los ingenieros equipan vehículos exploradores de Marte con filtros de cámara para “ver”longitudes de onda de luz que los humanos no pueden ver en el infrarrojo, devolviendo imágenes en brillantes colores falsos. Mientras tanto, la IA a bordo de los rovers no puede generar hallazgos científicos. Sólo combinando los coloridos resultados de los sensores con la discusión de expertos los científicos pueden usa estos ojos robóticos para descubrir nuevas verdades sobre Marte.
Datos respetuosos
Otro desafío ético para la IA es cómo se recolectan y utilizan los datos. La IA generativa se entrena en el trabajo de artistas y escritores. sin su consentimiento, los conjuntos de datos comerciales son plagado de prejuicios, y ChatGPT “alucina” respuestas a preguntas. Las consecuencias en el mundo real de este uso de datos en la IA van desde demandas a perfil racial.
Los robots en Marte también dependen de datos, energía de procesamiento y técnicas de aprendizaje automático para hacer su trabajo. Pero los datos que necesitan son visuales y información de distancia a generar caminos transitables o sugerir nuevas imágenes geniales.
Al centrarse en el mundo que los rodea en lugar de en nuestros mundos sociales, estos sistemas robóticos evitan preguntas sobre la vigilancia, inclinación y explotación esa plaga a la IA de hoy.
La ética del cuidado
Los robots pueden unir los grupos que funcionan con ellos provocando emociones humanas cuando se integran sin problemas. Por ejemplo, los soldados experimentados llorar drones rotos en el campo de batalla, y las familias dan nombres y personalidades a sus roombas. Vi ingenieros de la NASA romper en lágrimas de ansiedad cuando los rovers Spirit y Opportunity fueron amenazados por tormentas de polvo marcianas.
a diferencia antropomorfismo – proyectar características humanas en una máquina – este sentimiento nace de un sentido de cuidado por la máquina. Se desarrolla a través de interacciones diarias, logros mutuos y responsabilidad compartida. Cuando las máquinas inspiran un sentido de cuidado, pueden subrayar, no socavar, las cualidades que hacer humanas a las personas.
Una mejor IA es posible
En industrias donde la IA podría usarse para reemplazar a los trabajadores, los expertos en tecnología podrían considerar cómo las asociaciones inteligentes entre humanos y máquinas podrían mejorar las capacidades humanas en lugar de restándoles valor.
Los equipos de redacción de guiones pueden apreciar un agente artificial que pueda buscar diálogos o hacer referencias cruzadas sobre la marcha. Los artistas podrían escribir o curar sus algoritmos propios para alimentar la creatividad y retener el crédito por su trabajo. Los bots para apoyar a los equipos de software podrían mejorar la comunicación en las reuniones y encontrar errores que surgen al compilar el código.
Por supuesto, rechazar el reemplazo no eliminar todas las preocupaciones éticas con la IA. Pero muchos problemas asociados con los medios de vida humanos, la agencia y los prejuicios cambian cuando el reemplazo ya no es el objetivo.
La fantasía de reemplazo es solo uno de muchos futuros posibles para la IA y la sociedad. Después de todo, nadie vería guerra de las galaxias si los droides reemplazaran a todos los protagonistas. Para una visión más ética del futuro de los humanos con IA, se puede mirar a la máquina humana equipos que ya están vivos y bien, en el espacio y en la Tierra.
Janet Vertesi, Profesor asociado de Sociología, Universidad de Princeton
Este artículo se republica desde La conversación bajo una licencia Creative Commons. Lea el artículo original.
