La inteligencia artificial representa un "peligro de extinción", advierten expertos

Mitigar el riesgo de extinción debido a la inteligencia artificial debería ser una prioridad global junto a otros riesgos a escala mundial como las pandemias y la guerra nuclear, escribieron más de 350 firmantes en una carta de 23 palabras publicada por el Centro para la Seguridad de la Inteligencia Artificial (CAIS por sus siglas en inglés), una organización sin ánimo de lucro.

La competencia en el sector de la inteligencia artificial ha dado lugar a una especie de carrera armamentística de la IA, declaró Dan Hendrycks, director ejecutivo del CAIS, en una entrevista con el difusor público canadiense CBC.

Eso podría intensificarse y, al igual que la carrera armamentística nuclear, llevarnos potencialmente al borde de la catástrofe, dijo, sugiriendo que la humanidad podría seguir el camino de los neandertales, que lleva a la extinción.

También precisó que, como consecuencia del desarrollo de la inteligencia artificial, es más probable que desaparezcan primero determinados empleos o empresas, al optar por la automatización mediante la IA en lugar de emplear mano de obra humana.

Los recientes avances en IA han creado herramientas que, según sus partidarios, pueden ser utilizadas en aplicaciones que van desde el diagnóstico médico a la redacción de informes jurídicos, pero esto ha suscitado temores de que la tecnología pueda dar lugar a violaciones de la privacidad, potentes campañas de desinformación y problemas causados por máquinas inteligentes que tienen la capacidad de pensar por sí mismas.

Hay muchas formas en las que la inteligencia artificial podría dar resultados catastróficos, dijo Hendrycks, explicando la necesidad de examinar también qué herramientas de IA pueden utilizarse con fines genéricos y cuáles podrían ser utilizados con intenciones de causar daños.

También planteó la preocupación de que la inteligencia artificial se desarrolle de forma autónoma.

Sería difícil saber si una IA tiene un objetivo distinto del nuestro porque podría ocultarlo. Esto no es completamente descartable.

Los "padrinos de la IA" hacen parte de los críticos

Hendrycks y los firmantes de la declaración del CAIS están pidiendo la cooperación internacional y que se trate a la inteligencia artificial como una prioridad mundial para hacer frente a estos riesgos.

Pudimos hacer lo mismo con las armas nucleares. Por supuesto que es difícil de hacer, pero creo que es algo que tenemos que hacer, de lo contrario las cosas podrían ponerse muy mal.

La carta coincidió con la reunión del Consejo de Comercio y Tecnología EE.UU.-UE que se lleva a cabo en Suecia, donde se espera que los políticos aborden el tema de la regulación de la IA.

Además de Altman, entre los firmantes figuran los directores ejecutivos de las empresas de inteligencia artificial como DeepMind y Anthropic, además de ejecutivos de gigantes como Microsoft y Google.

Entre los signatarios de ese mensaje de alarma también estaban el profesor de informática británico-canadiense Geoffrey Hinton y el profesor de informática de la Universidad de Montreal Yoshua Bengio, dos de los tres llamados padrinos de la IA que recibieron el Premio Turing 2018 por su trabajo en aprendizaje profundo, además de profesores de instituciones que van desde la Universidad de Harvard hasta la Universidad Tsinghua en China.

Hinton declaró anteriormente que la IA podría suponer una amenaza más urgente para la humanidad que el cambio climático. Recientemente dimitió de su cargo en Google para poder hablar con más libertad sobre su preocupación por el rápido desarrollo de la IA.

Un comunicado del CAIS señalaba a Meta, donde trabaja el tercer padrino de la IA, Yann LeCun, por no firmar la carta.

Bengio y Elon Musk, junto con otros más de 1.000 expertos y ejecutivos del sector, ya citaron en abril los riesgos potenciales que representa la inteligencia artificial para la sociedad.

La semana pasada, Sam Altman, consejero delegado de OpenAI, se refirió a la posición de la UE sobre la inteligencia artificial, que propone los primeros esfuerzos por crear una normativa para la IA, como un exceso de regulación y amenazó con abandonar Europa. A los pocos días se retractó tras las críticas de los políticos.

La Presidenta de la Comisión Europea, Ursula von der Leyen, se reunirá con Altman este 1 de junio.

Fuente: CBC / S. Mukherjee / A. Ram

Adaptación: RCI / R. Valencia