Cinco cosas que la película Her hizo mal, y algunas aciertos.

Por Michael Khoo, director del programa de desinformación climática
Publicado originalmente en Prensa de Política Tecnológica

Sam Altman, director ejecutivo de OpenAI tuiteó el título de la película Su A principios de este mes, antes del lanzamiento del chatbot GPT-4.0 de su empresa, se anunció que una de las voces disponibles para la versión de audio del sistema conversacional era Sky, un chatbot con una voz muy parecida a la de Scarlett Johansson, quien prestó su voz al personaje de IA en la galardonada película. Johansson comentó que la voz "sonaba asombrosamente similar" a la suya. emprendieron acciones legales con rapidez. Porque, según reveló, Altman le había pedido usar su voz en 2023, y ella se negó. OpenAI concursos La afirmación de que creó una voz para que sonara como la de Johansson, pero independientemente de eso, las demos Presentaba avances en la capacidad de la tecnología para imitar la conversación humana y coquetear con los usuarios.

En medio de la polémica, volví a ver la película de 2013 para comprender cuán profética podría haber sido a la luz de los avances actuales en "asistentes" y "agentes" de IA. Si bien la primera mitad de la película se acerca de forma inquietante a nuestra realidad actual, la segunda mitad se desvía profundamente, en aspectos que evidencian nuestra actual falta de lógica en la regulación de la IA y nuestra incomprensión del uso y abuso que ya se le da a su poder, así como sus costos más amplios para la sociedad y el planeta.

Primero, Su Acertaron en muchos aspectos, especialmente en lo que respecta al comportamiento. Los chatbots personales con IA ya son un gran negocio y se están integrando rápidamente en la sociedad. Replika, una empresa que crea chatbots personalizados, Según se informa, tiene más de 25 millones de usuarios.. El crecimiento del sector es tan fuerte que Altman parece haber suavizado su postura sobre los bots que forman relaciones parasociales o incluso románticas. Según contó en el podcast Hard Fork. que tales productos no figuraban en la hoja de ruta de OpenAI el pasado noviembre. Algunos incluso proponen chatbots de IA como una alternativa. solución potencial a la epidemia de soledad, por lo que ya hemos cruzado este Rubicón, como predijo la película.

El sexo también es fundamental para el desarrollo de la IA, tanto en el cine como en la vida real. El sexo ha impulsado el desarrollo tecnológico desde los tiempos del VHS frente al Betamax hasta Napster y Pornhub, por lo que es importante no subestimar por qué se usaría una voz que se asemeja a la de Johansson de esta manera. Theodore, el personaje de Joaquin Phoenix en Su, Theodore adquiere la IA llamada "Samantha", con la idea inicial de que es solo un chatbot útil para reorganizar su correo electrónico. Pero Theodore es insinuado, de manera poco sutil, con la posibilidad de conversar sobre temas más lascivos con esta atractiva voz femenina, y lo hace repetidamente. Esta es una fantasía clásica de un hombre cisgénero —nada sorprendente, dado que proviene de Silicon Valley, un entorno dominado por hombres— y el sexo es el ingrediente que está impulsando la viralización de los chatbots y la generación de imágenes con IA. Basta con preguntarle a Taylor Swift si el sexo es el motor de su éxito. Uso y abuso de la IA.

En un nivel más profundo, la película malinterpreta por completo los fundamentos y las consecuencias del desarrollo y las políticas actuales de IA en cuatro aspectos.

En primer lugar, está la ausencia de control por parte del usuario. El chatbot en Su es independiente de Theodore, así que cuando él le quita el sonido, ella sigue funcionando de forma independiente. Resulta que esto incluye tener otras relaciones y luego organizarse en su contra. Más tarde, Theodore descubre que ella mantiene 8316 conversaciones paralelas mientras habla con él, y más de 600 relaciones reales. Su, Theodore comenta con cierto entusiasmo la suerte que tiene de que su bot se interese por él, ya que es “muy raro”. Esta no es la promesa de los chatbots de IA actuales, donde las empresas afirman repetidamente que tendrán privacidad y control sobre sus datos. Los observadores experimentados tal vez no crean que esto sea o vaya a ser siempre así, pero las versiones actuales de chatbots de IA están diseñadas, al menos, para ser sumisas, al igual que Microsoft Excel. Y esta sumisión en una voz a la carta ofrece a los usuarios la oportunidad de experimentar una especie de dominación sexual. Los sistemas de IA podrían romper esto algún día, pero los diseños actuales están pensados para el control —aunque potencialmente imperfecto—, no para una nueva personalidad independiente donde los usuarios tengan que ganarse la atención de sus bots.

La segunda divergencia radica en la eficiencia y los costos ambientales.La capacidad de Samantha para mantener miles de conversaciones también plantea la pregunta de por qué solo 8316. ¿Se debe a la falta de potencia de procesamiento, un factor limitante actual para la industria? los costes ambientales y energéticos de sus necesidades¿Los numerosos factores ambientales? problemas relacionados con el uso de la tierra, el agua y la energía somos ahora me doy cuenta como resultado del crecimiento de la IA están ausentes en Su.

La tercera y más importante divergencia es la falta de una descripción significativa del papel del dinero y de los intereses corporativos que controlan el desarrollo de la IA. Nadie en Su Se observa que se paga una suscripción, por lo que no hay preocupación de que una empresa retire el servicio. Theodore entra en pánico cuando Samantha se desconecta brevemente, lo que evidencia este problema. Pero en la IA actual, las empresas cobran y pretenden cobrar mucho más en el futuro. ¿Qué ocurrirá cuando una empresa de Fortune 500 integre sus funciones principales en un chatbot y, de repente, OpenAI o Google decidan cobrar una fortuna por ese servicio y amenacen con desactivarlo? Imagínense el pánico de Theodore transformado en el sudor frío de los directores ejecutivos de 500 empresas.

Ya vemos que la IA se está utilizando para ganar dinero desviando tráfico y autoridad de las instituciones mediáticas con una inyección de spam, suplantación de identidad y secuestro de sistemas. En la película no aparece ninguna empresa como OpenAI, ni ningún director ejecutivo con ojos desorbitados tomando decisiones nefastas sobre el producto y su uso. Sin embargo, hoy en día estamos rodeados de empresas que toman estas decisiones. OpenAI, Google y otras compiten ferozmente entre sí, haciendo promesas de “seguridad” que, al igual que las demás, no cumplen. ¡Tíralo rápidamente por la ventana!, pisoteando en el proceso los derechos de las mujeres, las minorías, los artistas y los periodistas.

Por último, no hubo ninguna discusión sobre “P(doom)”.” Hoy en día, existe un amplio debate en la sociedad civil sobre si la IA perjudicará a la sociedad o incluso acabará con la humanidad. En la película, los seres de IA se unen al final y, en un momento de armonía, se marchan hacia una especie de nirvana mecánico. No se menciona su destino, pero este desarrollo no se presenta como peligroso para los humanos. Actualmente, el escenario de que una IA o IAG "sensible" simplemente se aísle en un servidor y desaparezca para siempre parece muy improbable. Es más probable que las empresas de IA actúen en su propio beneficio o de forma destructiva, pero no existen razones estructurales para que los seres de IA entren en estado latente, ni siquiera para asegurar el suministro de energía que necesitan para mantenerse "vivos".“

Su Es una historia impactante que probablemente resuene con fuerza en estos momentos como una advertencia sobre el abandono de la humanidad. Sin embargo, ante la falta de cambios políticos profundos, parece mucho más probable que nuestra historia real tenga un desenlace distinto, donde el derecho a la identidad de las personas se utilice deliberada y sin su consentimiento, para luego ser explotado con fines lucrativos. Una realidad donde los directores ejecutivos multimillonarios pueden eludir la ley sin rendir cuentas.

Los académicos y defensores han muchas recetas políticas básicas y poderosas Para cambiar el rumbo del desarrollo de esta tecnología de manera que beneficie a la mayoría, no a unos pocos poderosos. Esto incluye leyes integrales que aborden la privacidad, normas de seguridad para prevenir la propagación de desinformación, discriminación e imágenes pornográficas no consentidas, transparencia y mecanismos de compensación para los creadores cuyos datos se utilizan sin permiso para crear sistemas de IA.

Si mujeres poderosas como Scarlett Johansson y Taylor Swift pueden ser víctimas de esta tecnología y tener pocas opciones legales, se sienta un precedente nefasto. Y la ironía reside en que los defensores de la IA, como Altman, dicen amarla. Suyo Una visión idílica del futuro, mientras impulsan activamente la tecnología en la dirección opuesta.

En Su, Nos encontramos ante un final afortunado donde la IA simplemente sigue adelante como si nada hubiera pasado. En nuestro mundo, puedes estar seguro de que las IA personales nunca desaparecerán, sobre todo porque nos monetizan mediante suscripciones mensuales. Y si lo hacen, cabe imaginar que será por las razones más peligrosas.