Los pioneros de la IA afirman que la IA podría provocar la extinción de la humanidad

Según algunos líderes de la industria, la tecnología de IA (inteligencia artificial) que están desarrollando actualmente podría tener consecuencias nefastas. En particular, los jefes de Google Deepmind y OpenAI advirtieron previamente que la IA podría estar llevando a la humanidad a su extinción.

Los principales directores ejecutivos de IA, así como otros expertos en tecnología, respaldaron recientemente una declaración que fue publicada por el Centro para la Seguridad de la IA. "Mitigar el riesgo de extinción de la IA debería ser una prioridad global junto con otros riesgos a escala social como las pandemias y la guerra nuclear", se lee en el comunicado.

Mientras que el CEO de OpenAI, Sam Altman, el CEO de Google DeepMind, Demis Hassabis, y Dario Amodei de Anthropic han apoyado la declaración, otros afirman que los temores han sido exagerados. Sin embargo, el sitio web del Centro para la Seguridad de la IA ha destacado algunos posibles escenarios de desastre:

• La IA puede armarse. Por ejemplo, las armas químicas se pueden fabricar utilizando herramientas de descubrimiento de drogas.
• La IA se puede utilizar para difundir información errónea. Algunos observadores creen que la tecnología de inteligencia artificial puede usarse para difundir información errónea en campañas políticas.
• Solo unas pocas personas podrían terminar teniendo acceso a la tecnología de IA. Esto podría permitir que "regímenes hagan cumplir valores limitados a través de una vigilancia generalizada y una censura opresiva".
• Además, los humanos podrían volverse dependientes de la IA al igual que el escenario que se muestra en la película "Wall-E".

El Dr. Geoffrey Hinton también apoyó la llamada del Centro para la Seguridad de la IA. Para aquellos que no lo sabían, el científico informático británico-canadiense, también conocido como el padrino de la inteligencia artificial, había emitido una advertencia sobre los riesgos de la IA. La declaración también está firmada por Yoshua Bengio, profesor de informática en la Universidad de Montreal.

¿Qué creen otros expertos?

Al igual que el Dr. Hinton, el profesor Yann LeCun de la NYU y el profesor Bengio son conocidos por su trabajo innovador en IA. El trío ganó conjuntamente el Premio Turing 2018 por sus destacadas contribuciones a la informática. Sin embargo, el profesor LeCun cree que estas advertencias son exageradas. A principios de este mes, el profesor LeCun tuiteó: "La reacción más común de los investigadores de IA a estas profecías de fatalidad es palmear la cara".

Del mismo modo, una gran cantidad de otros expertos sugiere que los temores de que la IA acabe con la humanidad no son realistas. Creen que estos temores desvían nuestro enfoque de problemas reales como el sesgo en los sistemas. Arvind Narayanan, científico informático de la Universidad de Princeton, le dijo a la BBC que la posibilidad de escenarios de desastre como los que se muestran en las películas de ciencia ficción no es realista.

De manera similar, la investigadora asociada senior del Instituto de Ética en IA de Oxford, Elizabeth Renieris, dijo al medio que está más preocupada por los daños a corto plazo de la IA. Según la Sra. Renieris, un número considerable de herramientas de IA se aprovechan de "toda la experiencia humana hasta la fecha".

El director del Center for AI Safety, Dan Hendrycks, cree que no debemos ver las preocupaciones actuales y los riesgos futuros de forma antagónica. Hendrycks afirma que será más fácil manejar los riesgos futuros si abordamos algunos de los problemas existentes ahora. En resumen, los informes sobre la amenaza de la IA comenzaron a circular en línea en marzo, cuando el director ejecutivo de Twitter , Elon Musk, firmó una carta abierta para detener el entrenamiento de la IA.

La carta cuestionaba si es necesario crear mentes no humanas que puedan reemplazar, ser más astutas e incluso superar en número a los humanos. La nueva campaña, por otro lado, comprende una breve declaración diseñada para "abrir la discusión". Además, la declaración dice que los riesgos que plantea la IA son similares a los riesgos que plantean las guerras nucleares.

OpenAI, la compañía detrás del popular ChatGPT, indicó recientemente que la superinteligencia probablemente será regulada como la energía nuclear. La firma sugiere que eventualmente necesitaremos algo como la Agencia Internacional de Energía Atómica (OIEA) para los esfuerzos de superinteligencia.

¿Deberíamos preocuparnos por la IA?

Los líderes tecnológicos, incluido el director ejecutivo de Google, Sundar Pichai, el director ejecutivo de Microsoft , Satya Nadella, y el jefe de OpenAI, Sam Altman, ya han discutido la regulación de la IA con el presidente de los Estados Unidos, Joe Biden. Además, el primer ministro del Reino Unido, Rishi Sunak, destacó los beneficios de la IA para la economía y la sociedad al hablar con los periodistas a principios de este año.

Reconociendo que la gente estará preocupada por los informes de que la IA plantea riesgos existenciales, Sunak aseguró que el gobierno está analizando esto detenidamente.