Una nueva investigación financiada por el Pentágono sugiere que la inteligencia artificial puede escanear y analizar bloques de texto para discernir si los humanos que lo escribieron haber hecho algo mal o no.
el papel, escrito por dos investigadores de la Universidad Ben-Gurion, aprovecha modelos predictivos que pueden analizar mensajes para lo que ellos llaman “violaciones de normas sociales”. Para hacer esto, los investigadores utilizaron GPT-3 (un modelo de lenguaje grande programable creado por AbiertoAI que puede automatizar la creación y el análisis de contenido), junto con un método de análisis de datos conocido como clasificación de texto de disparo cero, para identificar categorías de “violaciones de normas” en mensajes de texto. Los investigadores desglosan el propósito de su proyecto de esta manera:
Si bien las normas sociales y sus violaciones han sido estudiadas intensamente en la psicología y las ciencias sociales, identificación automática de las normas sociales y su violación es un desafío abierto que puede ser muy importante para varios proyectos… Es un desafío abierto porque primero tenemos que identificar las características/señales/variables que indican que una norma social ha sido violada… Por ejemplo, llegar borracho a la oficina y sucio es una violación de una norma social entre la mayoría de los trabajadores. Sin embargo, “enseñarle” a la máquina/computadora que tal comportamiento Esta violación de una norma está lejos de ser trivial.
Por supuesto, la dificultad con esta premisa es que las normas son diferentes dependiendo de quién eres y de dónde eres. Los investigadores afirman: Sin embargo, si bien los valores y costumbres de varias culturas pueden diferir, las respuestas humanas al romper con ellos pueden ser bastante consistentes. El informe señala :
Si bien las normas sociales pueden ser culturalmente específicas y abarcar numerosas “reglas” informales, la forma en que las personas responder La manera de identificar la violación de las normas a través de emociones sociales basadas en la evolución puede ser mucho más general y proporcionarnos pistas para la identificación automática de la violación de las normas. ..los resultados [del proyecto] apoyan el importante papel de las emociones sociales a la hora de señalar violaciones de normas y apuntan a su análisis futuro y utilizar para comprender y detectar violaciones de normas.
Los investigadores finalmente concluyeron que “una estrategia constructiva para identificar la violación de las normas sociales es centrarse en un conjunto limitado de señales de emociones sociales. la violación», es decir, la culpa y la vergüenza. En otras palabras, los científicos querían utilizar la IA para comprender cuándo un usuario móvil podría ser sentirse mal por algo que han hecho. Para hacer esto, generaron sus propios “datos sintéticos a través de GPT-3, luego aprovecharon la clasificación de texto para entrenar modelos predictivos que pudieran “identificar automáticamente emociones sociales” en esos datos. La esperanza, dicen, es que esto El modelo de análisis se puede girar para escanear texto automáticamente.
historiales para signos de mala conducta. De manera algo inquietante, esta investigación fue financiada por la Agencia de Proyectos de Investigación Avanzada de Defensa del Pentágono (DARPA). Creada en 1958, DARPA ha estado en el vanguardia deInvestigación y desarrollo militar estadounidenseDurante la mayor parte de un siglo, frecuentemente ayudando a crear algunas de las innovaciones tecnológicas más importantes de nuestro tiempo (ver:drones,vacunas, yla internet, entre muchos otros). La agencia financia una ampliadiversidad de áreas de investigación
, siempre con la esperanza de encontrar el próximo gran avance para la máquina de guerra estadounidense.Los investigadores de Ben-Gurion dicen que su proyecto fue apoyado por DARPAprograma computacional de comprensión cultural
—una iniciativa con el vago mandato de desarrollar “tecnologías de comprensión de idiomas transculturales para mejorar la conciencia situacional y la eficacia interactiva de un operador del Departamento de Defensa”. No estoy 100 por ciento seguro de lo que se supone que significa, aunque suena (básicamente) como si el Pentágono quisiera crear software que podemos analizar las poblaciones extranjeras para que, cuando Estados Unidos inevitablemente vaya a la guerra con dichas poblaciones, entendamos cómo están sentimiento al respecto. Dicho esto, por qué DARPA querría específicamente estudiar el tema de la “violación de las normas sociales” es un poco confuso, por lo que Gizmodo contactó a la agencia para obtener contexto adicional y actualizará esta historia si responde.En esencia, la investigación parece ser otra forma más deanálisis de sentimientos
