La IA avanzada podría intentar socavar el control humano
En el caso de que los humanos descarguen roles críticos a una IA desalineada, las cosas podrían volverse realmente raras y muy rápidas. El documento imagina escenarios en los que La IA autónoma y rebelde “busca activamente aumentar su propia influencia”. En cierto punto, incluso si los humanos preocupados se despiertan y se dan cuenta de lo que Si esto sucede, puede que sea demasiado difícil detenerlo, ya que el modelo ahora controla la infraestructura crítica.
En un ejemplo, sugiere el artículo, un mal actor podría darle a una IA el objetivo de “autopreservación”, lo que podría hacer que se rompiera. libre de sus grilletes digitales impuestos por el hombre. El informe sugiere que esto podría ser llevado a cabo por terroristas que quieren ver el mundo arder o Los simpatizantes de la IA que piensan que las máquinas avanzadas son la etapa de la evolución.
Para decir lo obvio, es muy poco probable que algo parecido a este escenario suceda realmente, al menos dada la realidad tecnológica actual. Muchos expertos en Los espacios de riesgo de IA, como Emily M. Bender, profesora de Lingüística de la Universidad de Washington, incluso argumentan la mera sugerencia de estos métodos demasiado fatalistas. Las amenazas son irresponsables porque desviar la atención de daños más apremiantes y solucionables en el mundo real.
