Pedido internacional de una moratoria en el desarrollo de la inteligencia artificial

Los sistemas de IA que pueden rivalizar con la inteligencia humana pueden suponer un gran riesgo para la humanidad, argumentaron los cerca de 1.000 firmantes de la carta publicada por el Future of Life Institute, Instituto Futuro de la Vida, una organización que trata de limitar los riesgos asociados al desarrollo de nuevas tecnologías.

Entre los firmantes de la carta figuran especialistas de alto nivel, como el montrealés Yoshua Bengio, y empresarios como Elon Musk y Steve Wozniak, cofundador de Apple.

Ellos no piden suspender las investigaciones sobre la inteligencia artificial, sino el desarrollo de sistemas más potentes que GPT-4 durante al menos seis meses.

En muy poco tiempo, ChatGPT, desarrollado por la empresa OpenAI, ha ganado popularidad rápidamente gracias a sus asombrosas capacidades y a sus fallas. Desde recetas de cocina hasta trabajos académicos, el gran público ha comprobado que ChatGPT es capaz de entender tareas que antes se creían reservadas al cerebro humano.

En los últimos meses, los laboratorios de inteligencia artificial se han lanzado a una carrera frenética para desarrollar y desplegar sistemas digitales cada vez más potentes que nadie, ni siquiera sus creadores, puede comprender, predecir o controlar de forma confiable.

La moratoria temporal exigida por los firmantes debería ser utilizada para desarrollar protocolos de seguridad para el diseño y desarrollo de la inteligencia artificial, como la creación de entidades que regulen la IA, sistemas para distinguir claramente entre lo que es verdadero y lo que es sintético, y mecanismos para determinar quién es responsable en los casos en que la IA cause daños o perjuicios.

Estos mecanismos son tanto más importantes cuanto que se trata de una de las industrias más concentradas del mundo, señaló la semana pasada Kate Crawford, experta en las implicaciones sociales y políticas de la inteligencia artificial, en la presentación de un libro titulado Angles morts de la gouvernance de l'intelligence artificielle, o Puntos ciegos de la gobernanza de la inteligencia artificial, publicado conjuntamente por la UNESCO y Mila, el Instituto quebequense de la inteligencia artificial.

Según Crawford, seis empresas se reparten la gran mayoría de este sector.

A esto se añaden las numerosas interrogantes éticas planteados por los programas informáticos de falsificación profunda, los sistemas que generan obras de arte sintetizando información de obras ya existentes, los prejuicios implícitos, incluyendo los raciales, que la inteligencia artificial puede asimilar, además de los sistemas militares capaces de localizar objetivos de forma autónoma.

Fuente: RC / D. Degré

Adaptación: RCI / R. Valencia