Líderes y responsables políticos de todo el mundo se reunirán en Londres la próxima semana para La primera cumbre de seguridad sobre inteligencia artificial del mundo.. Cualquiera esperando una discusión práctica de Daños y riesgos de la IA a corto plazo probablemente se sentirá decepcionado. Un nuevo documento de debate publicado antes de la cumbre de esta semana ofrece una pequeña muestra de qué esperar, y Está lleno de explosivos. Estamos hablando de armas biológicas creadas por IA, ciberataques e incluso un interés amoroso manipulador y malvado de la IA.
el documento de 45 páginas, titulado “Capacidades y riesgos de la IA de frontera”, ofrece un resumen relativamente sencillo de lo que los modelos actuales de IA generativa pueden y no pueden hacer. . Sin embargo, donde el informe comienza a desviarse es cuando comienza a especular sobre futuros sistemas más poderosos, que lo denomina “IA de frontera”. El documento advierte sobre algunos de los desastres de IA más distópicos, incluida la posibilidad de que la humanidad pierda el control de Sistemas de IA “desalineados”.
Algunos expertos en riesgos de IA consideran esta posibilidad, pero otros han rechazado la glamourización de escenarios fatalistas más especulativos, argumentando que hacerlo podría restar valor a los daños más apremiantes a corto plazo. Los críticos han de manera similar argumentó que la cumbre parece demasiado centrada en problemas existenciales y no suficiente en amenazas más realistas.
El primer ministro británico, Rishi Sunak, se hizo eco de sus preocupaciones sobre la IA desalineada potencialmente peligrosa durante un discurso el jueves.
“En los casos más improbables pero extremos, existe incluso el riesgo de que la humanidad pierda completamente el control de la IA debido al tipo de La IA a veces se denomina superinteligencia”, dijo Sunak. según a CNBC. Mirando hacia el futuro, Sunak dijo que quiere establecer un “panel de expertos verdaderamente global”, nominado por los países que asistieron a la cumbre. para publicar un importante informe de IA.
Pero no confíe en nuestra palabra. Continúe leyendo para ver algunas de las predicciones de IA cargadas de desastres mencionadas en el informe.
