Desde desde OpenAI lanzado ChatGPT A finales del año pasado, la IA estuvo en el centro de los debates en Estados Unidos sobre el progreso científico, el cambio social y perturbación económica, educación, diablos, incluso el futuro del porno. Sin embargo, su papel cultural fundamental ha traído consigo una buena cantidad de tonterías. O, más bien, una incapacidad del oyente promedio para decir si lo que escuchan califica como mierda o es, de hecho, información precisa sobre una nueva tecnología audaz.
Un claro ejemplo de esto surgió esta semana con una noticia viral que implosionó rápidamente. conferencia de defensa Presentado en Londres, el coronel Tucker “Cinco” Hamilton, jefe de pruebas y operaciones de IA de la USAF, contó una información muy interesante. historia sobre una “prueba simulada» reciente que involucra un dron equipado con IA. Tucker le dijo a la audiencia de la conferencia que , durante el curso de la simulación —cuyo propósito era entrenar el software para apuntar a las instalaciones de misiles enemigas—el programa de IA al azar se volvió rebelde, se rebeló contra su operador, y procedió a “matarlo”. Hamilton dijo:
“Lo estábamos entrenando en simulación para identificar y apuntar una amenaza SAM. Y luego el operador diría sí, eliminar esa amenaza. El sistema comenzó a darse cuenta de que, si bien identificaban la amenaza, en ocasiones el operador humano le decía que no eliminara esa amenaza, pero Obtuvo sus puntos al eliminar esa amenaza. Entonces, ¿qué hizo? Mató al operador. Mató al operador porque eso persona estaba impidiéndole lograr su objetivo”.
En otras palabras: Hamilton parecía estar diciendo que la USAF efectivamente había dado un giro y nos había puesto de lleno en el territorio de la pesadilla distópica. —un mundo donde el gobierno estaba ocupado entrenando un potente software de IA que, algún día, seguramente desarrollaría una mente propia y procedería a mátanos a todos.
La historia fue retomada por varios medios, incluyendo Vicio y Persona enterada, y las historias sobre la IA rebelde se propagan rápidamente como un reguero de pólvora por Twitter.
Pero, desde el principio, la historia de Hamilton parecía… extraña. Por un lado, no estaba exactamente claro qué había sucedido. Una simulación había salido mal, claro, pero ¿qué significa eso? ¿Qué tipo de simulación fue? ¿Cuál fue el programa de IA que se volvió loco? ¿Era parte de un programa del gobierno? Nada de esto se explicó claramente, por lo que la anécdota sirvió principalmente como una narrativa dramática con un tono decididamente Detalles borrosos.
Efectivamente, poco después de que la historia estallara en la prensa, la Fuerza Aérea publicó una refutación oficial de la historia.
“El Departamento de la Fuerza Aérea no ha realizado ninguna simulación de drones con IA y sigue comprometido con el uso ético y responsable de la tecnología de IA ”, bromeó una portavoz de la Fuerza Aérea, Ann Stefanek. múltiples medios de noticias. “Parece que los comentarios del coronel fueron sacados de contexto y pretendían ser anecdóticos”.
Mientras tanto, Hamilton comenzó una gira de retractación, hablando con varios medios de noticias y diciéndoles a todos de manera confusa que esto no era una simulación real sino que , en cambio, un “experimento mental”. Además dijo: “Nunca hemos realizado ese experimento, ni necesitaríamos hacerlo para poder darse cuenta de que este es un resultado plausible”, The Guardian lo cita como diciendo. “A pesar de ser un ejemplo hipotético, esto ilustra los desafíos del mundo real que plantea la capacidad impulsada por la IA y es por eso que La Fuerza Aérea está comprometida con el desarrollo ético de la IA”, afirmó además.
Por el aspecto de esta gira de disculpas, seguro que suena como si Hamilton estuviera muy mal comunicado o simplemente estuviera inventando cosas. Miré James Cameron El terminador unas cuantas veces antes de asistir a la conferencia de Londres y su imaginación se apoderó de él.
Pero, por supuesto, hay otra manera de leer el incidente. La interpretación alternativa implica asumir que, en realidad, esta cosa hizo sucedió, sea lo que sea lo que Tucker estaba tratando de decir, sucedió, y tal vez ahora el gobierno no quiere exactamente que todos sepan que Estamos a un paso de desatar Skynet en el mundo. Eso parece… ¿aterradoramente posible? Por supuesto, no tenemos evidencia de que esa sea la caso y no hay ninguna razón real para pensar que así sea. Pero el pensamiento está ahí.
Tal como está, el episodio resume el estado actual del discurso sobre la IA: una conversación confusa que oscila entre fantasías especulativas y el exaltado Silicon Valley. Relaciones públicas y nuevas y aterradoras realidades tecnológicas, en las que la mayoría de nosotros estamos confundidos sobre cuál es cuál.
