Inteligencia Artificial: ¿El próximo incendio climático?

Por Michael Khoo, director del programa de desinformación climática
Publicado originalmente en El Mensajero

Por lo general, no le damos importancia a surtir una receta médica, probar un auto nuevo o tomar un vuelo, porque sabemos que las compañías que fabricaron esos productos tuvieron que demostrar que eran seguros.

Sin embargo, las nuevas tecnologías como la inteligencia artificial (IA) —tan avanzadas que pueden perfeccionarse a sí mismas— se están utilizando cada vez más sin prácticamente ningún tipo de control de seguridad. Esto es alarmante.

Existen peligros evidentes al permitir que la inteligencia artificial se propague y multiplique sin control, en un entorno donde prima el lucro y la falta de regulación. Podríamos pensar en la tecnología de ciencia ficción autoconsciente y en constante evolución de la película "Terminator". Sin embargo, la amenaza de que la IA se perfeccione a sí misma es una amenaza lejana. El peligro más inmediato reside en que los humanos utilicen la IA como arma para facilitar la difusión de desinformación.

Lina M. Khan, presidenta de la Comisión Federal de Comercio, ha instado a los reguladores a no repetir los errores cometidos con las redes sociales: permitir el uso indiscriminado de nuevas tecnologías sin ninguna regulación. Sabemos que las redes sociales desarrolladas sin una supervisión regulatoria sólida han provocado violaciones de la privacidad y graves daños sociales. Y afirma que, a menos que aprendamos de nuestros errores, la inteligencia artificial también corre el riesgo de…“fraude de sobrealimentación.”

Tampoco hablamos de vídeos falsos del Papa disfrazado de Elton John. La IA ya utiliza imágenes digitales. Según se informa, se ha utilizado en la campaña electoral., Además, los algoritmos pueden ampliar enormemente la capacidad de ejecutar campañas de persuasión microsegmentadas, incluso a nivel individual. Estas capacidades implican que la IA corre el riesgo de amplificar la desinformación existente, incluso la relativa al cambio climático.

La información engañosa sobre el cambio climático y los fenómenos meteorológicos extremos ya es un problema grave, incluso sin la ayuda de la IA. Recientemente vimos Teorías conspirativas que circulan en las redes sociales sobre los recientes incendios forestales canadienses Se difundieron rápidamente, incluyendo falsedades como que los incendios fueron causados por ambientalistas o activistas LGBTQ o que tenían como objetivo despejar terreno para proyectos de energía renovable.

Imaginemos que algo capaz de crear mentiras más creíbles y difundirlas aún más fuera quien produjera la desinformación. La IA bien podría hacerlo, a menos que exijamos las protecciones que damos por sentadas en la industria farmacéutica y el transporte. Como vimos con las redes sociales, una vez que las nuevas tecnologías salen del laboratorio, es demasiado tarde.

En manos equivocadas, la IA podría socavar para siempre el discurso climático basado en hechos, gracias a su capacidad para crear historias, argumentos e incluso imágenes realistas a medida. Al recopilar publicaciones en redes sociales y otras actividades digitales, la IA tiene el potencial de crear miles de millones de piezas de desinformación, personalizarlas y difundirlas, lo que dificultaría enormemente distinguir entre realidad y ficción. Esto no solo obstaculizaría la acción climática basada en datos, sino que también podría representar un grave peligro durante fenómenos meteorológicos extremos, cuando la información clara y precisa es fundamental.

Afortunadamente, aún podemos evitar que la inteligencia artificial se desboque aplicando a la inteligencia artificial los mismos principios que los organismos reguladores han utilizado en los productos farmacéuticos y la seguridad automovilística.

Debemos empezar por la transparencia. Antes de que la IA se utilice, las empresas deben estar obligadas a mostrar a los reguladores cómo funcionan los algoritmos y demostrar que son seguros. Incluso China está proponiendo esta medida de sentido común en su normativa sobre IA. normas para garantizar la responsabilidad de la IA El proyecto que actualmente está desarrollando el Departamento de Comercio también debería hacerlo.

Esto debería incluir salvaguardias rigurosas contra los algoritmos de IA que utilizan explícitamente desinformación, discursos de odio y fraude para manipular las emociones humanas. Existen regulaciones estrictas en torno a la publicidad farmacéutica. Hay razones de sobra para restringir de forma similar la IA, ya que como han señalado las Naciones Unidas, “La propagación de información científicamente engañosa” tiene graves “consecuencias negativas para la política climática”.”

También debería cumplir con las normas de la comunidad. Ya requieren televisión para hacerlo. Incluso TikTok ha adoptado estándares Específicamente para contrarrestar la desinformación climática. Esa misma lógica debería aplicarse a la IA, especialmente dado su potencial para influir en lo que leemos, vemos y pensamos.

Los legisladores y reguladores tardaron en reconocer los posibles daños de las redes sociales. Ante la próxima gran revolución tecnológica —con la capacidad de cambiar y adaptarse sin supervisión humana— no podemos cometer el mismo error que con las redes sociales. Los líderes de la industria de la IA incluso han pedido a los legisladores que… priorizar la regulación de la IA.

La triste trayectoria que han seguido las redes sociales no era inevitable. Fue consecuencia directa de las decisiones políticas tomadas —o, más bien, no tomadas— durante sus inicios. Y así nos encontramos hoy con la inteligencia artificial.

Por eso, para evitar su capacidad masiva de difundir desinformación sobre la crisis más existencial que enfrenta la humanidad, el gobierno federal debe hacer lo que ha hecho durante décadas: exigir a las empresas que demuestren que sus productos son seguros antes de que los estadounidenses los utilicen.