Ottawa presenta su nuevo código de conducta sobre la IA para empresas canadienses

En su intervención en una conferencia sobre la inteligencia artificial celebrada en Montreal este miércoles, el ministro federal de Industria, François-Philippe Champagne, dijo que ese código es un complemento a la legislación que se encuentra en proceso de discusión y aprobación en el Parlamento, el proyecto de ley C-27, y que servirá para promover el desarrollo seguro de sistemas de IA en Canadá.

Aunque estamos desarrollando una ley aquí en Canadá, esto llevará tiempo. Y creo que si le preguntan a la gente en la calle, querrán que tomemos medidas ahora para asegurarnos que tenemos medidas específicas que las empresas pueden tomar ahora para generar confianza en sus productos de IA.

La inteligencia artificial generativa incluye productos como ChatGPT y otros sistemas que pueden crear cosas como texto, imágenes, música o videos.

Un código que no es obligatorio

Entre la docena de empresas y grupos que han acordado firmar de manera voluntaria el código de conducta se encuentran BlackBerry, OpenText, Telus y el Consejo Canadiense de Innovadores, que representa a más de 100 empresas emergentes en todo Canadá.

Audrey Champoux, portavoz del ministro Champagne, afirmó que el gobierno trabajará para convencer a más empresas y organizaciones para que adopten el código de conducta.

Isabelle Hudon, presidenta del Banco de Desarrollo Empresarial de Canadá, elogió la decisión de Ottawa de hacer que ese código de conducta sea voluntario en lugar de obligatorio.

En un panel de discusión durante la conferencia posterior al anuncio del ministro Champagne, la presidenta del Banco de Desarrollo Empresarial de Canadá dijo, que es una corporación de la Corona, ha estado manteniendo debates internos sobre cómo utilizar la IA para atender a los clientes y mejorar la productividad.

Creo que su código de conducta nos guiará para tomar las decisiones correctas en el momento correcto y por las razones correctas, dijo Hudon.

Tobi Lutke, director ejecutivo de Shopify, criticó la iniciativa del gobierno y la describió como otro caso de efraid, un neologismo que combina la primera vocal de electrónico y la palabra inglesa afraid, que significa temor, en este caso, temor a la tecnología.

No lo apoyaré, publicó Lutke en la red social X, antes conocida como Twitter. No necesitamos más árbitros en Canadá. Necesitamos más constructores. Dejemos que otros países regulen mientras nosotros tomamos el camino más valiente y decimos 'vengan a construir aquí'.

El código de conducta de dos páginas compromete a los signatarios a apoyar el desarrollo de un ecosistema de IA robusto y responsable en Canadá, contribuyendo al desarrollo de estándares, compartiendo información y colaborando con investigadores.

Los firmantes también acuerdan implementar sistemas apropiados de gestión de riesgos, sujetando a sus sistemas a evaluaciones de riesgos, su protección contra ataques cibernéticos y comprometerse a la supervisión y monitoreo humanos después de su implementación.

Evitar los sesgos y la discriminación

Una de las preocupaciones que a menudo se expresan sobre los sistemas de inteligencia artificial es el riesgo de que se incorporen sesgos en los algoritmos, dando lugar a decisiones discriminatorias. El código de conducta compromete a los signatarios a evaluar y abordar los impactos discriminatorios en diferentes fases del desarrollo y despliegue de un sistema de IA.

El código también pide a las empresas que sean transparentes sobre los sistemas de inteligencia artificial que utilizan.

Se publica suficiente información para permitir a los consumidores tomar decisiones informadas y a los expertos evaluar si los riesgos han sido abordados adecuadamente, dice el código.

El código también establece que los signatarios también se comprometen a desarrollar y utilizar sistemas de IA de una manera que impulse un crecimiento inclusivo y sostenible en Canadá, incluyendo la priorización de los derechos humanos, la accesibilidad y la sostenibilidad ambiental, y aprovechar el potencial de la IA para abordar los problemas globales más apremiantes de nuestro tiempo.

El ministro Champagne señaló que desarrollar el potencial de la IA en Canadá requiere restaurar la confianza del público en su seguridad.

Hemos restablecido la confianza de la gente en la IA responsable. (Ahora) pasamos de la confianza a la innovación, dijo Champagne, añadiendo que Canadá debería ser un líder mundial en el desarrollo de una IA responsable.

Canadá abre el camino en materia de legislación de la IA

La declaración del Ministro federal de Industria se produce un día después de haber informado a los miembros del comité de la industria en la Cámara de los Comunes que Canadá se encuentra a la vanguardia en el desarrollo de un marco y reglas para el uso de la inteligencia artificial, algo que Estados Unidos y Europa están observando de cerca a medida que la tecnología se desarrolla rápidamente.

Espero que los colegas sientan el mismo nivel de urgencia que yo, porque todos los días aprendemos sobre un nuevo aspecto de esa tecnología que va más allá de lo que ya hemos visto. Por lo tanto, creo que será muy necesario contar con un marco que ayude a tener una IA responsable, afirmó.

El gobierno de Canadá ha dado los primeros pasos para regular la IA, incluida la Ley de Datos e Inteligencia Artificial, que forma parte del proyecto de ley más amplio C-27, presentado en junio de 2022. La legislación también actualizará la Ley de privacidad de Canadá, algo que no se ha hecho en dos décadas.

Champagne anunció el martes una serie de enmiendas a esa legislación, diciendo que responden a los comentarios que ha recibido.

Entre las enmiendas habrá una que defina lo que constituye un sistema de IA de alto impacto, dijo Champagne al comité.

Propondremos una enmienda para definir clases de sistemas que normalmente se consideran de alto impacto, por ejemplo, sistemas de inteligencia artificial que toman decisiones importantes como préstamos bancarios o acceso al empleo.

Otras enmiendas, dijo, establecerán obligaciones específicas y distintas para los sistemas de IA de uso general como ChatGPT y clarificarán aún más obligaciones tiene el desarrollador de un sistema de IA frente a alguien que lo gestiona y lo implementa.

El gobierno de Canadá también fortalecerá y aclarará el papel del propuesto Comisionado de Datos e Inteligencia Artificial previsto en la legislación y les permitirá compartir información y cooperar con otros reguladores como el Comisionado de Competencia o el Comisionado de Privacidad, dijo Champagne.

Las enmiendas también reconocerán el derecho fundamental a la privacidad de los canadienses, junto con las disposiciones existentes del proyecto de ley para permitir a las personas transferir sus datos a otra empresa o eliminarlos.

Champagne dijo que el gobierno también ha decidido reforzar la protección de la información en línea de los niños y dará al Comisionado de Privacidad más flexibilidad para llegar a acuerdos de cumplimiento con empresas que violen la ley de privacidad.

Fuente: CBC / E. Thompson

Adaptación: RCI / R. Valencia