Con la inteligencia artificial ‘sobrehumana’ a la vista, Canadá necesita una ley ahora: pionero de la IA

El gobierno federal debe actuar rápidamente para regular la inteligencia artificial, dijo un importante pionero de la IA que advierte que la trayectoria actual de la tecnología plantea importantes riesgos sociales.

Yoshua Bengio, apodado el “padrino” de AI, dijo a los miembros del Parlamento el lunes que Ottawa debería implementar una ley de inmediato, incluso si esa legislación no es perfecta.

El director científico de Mila, el Instituto de IA de Quebec, dijo que una inteligencia “sobrehumana” que sea tan inteligente como un ser humano podría desarrollarse en las próximas dos décadas, o incluso en los próximos años.

“No estamos listos”, dijo Bengio.

Un riesgo a corto plazo de la IA es el uso de vídeos falsos para difundir desinformación, afirmó. Estos videos utilizan inteligencia artificial para que parezca que una figura pública está diciendo algo que no dijo o haciendo algo que nunca sucedió.

La tecnología también se puede utilizar para interactuar con personas a través de textos o diálogos “de una manera que puede engañar a un usuario de redes sociales y hacerle cambiar de opinión sobre cuestiones políticas”, dijo Bengio.

“Existe una preocupación real por el uso de la IA en formas políticamente orientadas que van en contra de los principios de nuestra democracia”.

Una pantalla.
Los sistemas de inteligencia artificial como Open AI y ChatGPT están recibiendo un nivel de escrutinio cada vez mayor. (Marco Bertorello/AFP vía Getty Images)

Dentro de uno o dos años, la preocupación es que se puedan utilizar sistemas más avanzados para ataques cibernéticos.

Los sistemas de IA son cada vez mejores en programación.

“Cuando estos sistemas se vuelvan lo suficientemente fuertes como para derrotar nuestras ciberdefensas actuales y nuestra infraestructura digital industrial, estaremos en problemas”, dijo Bengio.

“Sobre todo si estos sistemas caen en las manos equivocadas.”

Proyecto de ley propone regular los sistemas de IA

El comité de industria de la Cámara de los Comunes, donde Bengio testificó el lunes, está estudiando un proyecto de ley del gobierno liberal que actualizaría la ley de privacidad y comenzaría a regular algunos sistemas de inteligencia artificial.

El proyecto de ley, tal como está redactado, daría tiempo al gobierno para desarrollar regulaciones, pero Bengio dijo que algunas disposiciones deberían entrar en vigor de inmediato.

“Con el enfoque actual, se necesitarían unos dos años antes de que sea posible hacer cumplir la ley”, dijo.

Una de las reglas iniciales que dijo que quiere que se implemente es un registro que requeriría sistemas con un nivel específico de capacidad para informar al gobierno.

Bengio dijo que eso pondría la responsabilidad y el costo de demostrar la seguridad en las grandes empresas de tecnología que desarrollan estos sistemas, en lugar de en los contribuyentes.

El proyecto de ley C-27 se redactó por primera vez en 2022 para apuntar a lo que se describen como sistemas de inteligencia artificial de “alto impacto”.

Bengio dijo que el gobierno debería cambiar la definición de “alto impacto” de la legislación para incluir tecnología que plantee amenazas a la seguridad nacional y a la sociedad.

Eso podría incluir cualquier sistema de inteligencia artificial que los malos actores puedan usar para diseñar armas y ataques cibernéticos peligrosos, o sistemas que encuentren formas de autorreplicarse a pesar de las instrucciones de programación en sentido contrario.

Los sistemas de inteligencia artificial generativa como ChatGPT, que pueden crear texto, imágenes y videos, surgieron para un uso público generalizado después de que se presentó por primera vez el proyecto de ley.

El gobierno dijo que planea modificar la legislación para reflejar eso.

Los liberales dicen que su objetivo es exigir a las empresas que tomen medidas para garantizar que el contenido que crean sea identificable como generado por IA.

Bengio dijo que es “muy importante cubrir los sistemas de inteligencia artificial de uso general porque también son los que podrían ser más peligrosos si se usan incorrectamente”.

Catherine Regis, profesora de la Universidad de Montreal, también dijo en la reunión del comité el lunes que el gobierno necesita actuar con urgencia, citando recientes “desarrollos meteóricos en IA con los que todos estamos familiarizados”.

Hablando en francés, señaló que la regulación de la IA es un esfuerzo global y Canadá debe determinar qué hacer a nivel nacional si quiere tener voz.

“Se tomarán decisiones a escala global que tendrán un impacto en todos los países”, dijo.

Establecer una visión clara y sólida a nivel canadiense es “una de las condiciones esenciales para desempeñar un papel estructurante e influyente creíble en la gobernanza global”, afirmó.

VER | El pionero de la IA, Yoshua Bengio, comparte una preocupación principal:

Los deepfakes y otra desinformación encabezan la lista de temores del pionero de la IA, Yoshua Bengio

El profesor e informático de Montreal conocido internacionalmente como el “padrino” de la inteligencia artificial comparte sus mayores preocupaciones relacionadas con la IA para 2024.

Leave a Reply

Your email address will not be published. Required fields are marked *