Audrey Kim, curadora del Misalignment Museum, analiza una obra de la exposición titulada «Spambots».
Kif Leswing/CNBC
Audrey Kim está bastante segura de que un robot poderoso no agotará los recursos de su cuerpo para lograr sus objetivos.
Pero ella se toma la posibilidad en serio.
«Francamente, creo que es muy poco probable que la IA extraiga mis átomos para convertirme en sujetapapeles», dijo Kim en una entrevista con CNBC. «Sin embargo, veo que hay muchos resultados potencialmente destructivos que podrían ocurrir con esta tecnología».
Kim es la curadora y la fuerza impulsora detrás del Misalignment Museum, una nueva exhibición en el Distrito de la Misión de San Francisco que presenta obras de arte que exploran la posibilidad de un «AGI» o inteligencia general artificial. Esta es una IA tan poderosa que puede mejorar sus habilidades más rápido que los humanos, creando un circuito de retroalimentación en el que sigue mejorando hasta que tiene un poder cerebral esencialmente ilimitado.
Cuando la IA súper poderosa se dirige a los humanos, podría significar el fin del hambre o el fin del trabajo. Pero si está «desalineado», las cosas podrían salir mal, dice la teoría.
O como dice un letrero en el Museo de Desalineación: «Lo siento, maté a la mayor parte de la humanidad».
La frase «Lo siento, maté a la mayor parte de la humanidad» se puede ver desde la calle.
Kif Leswing/CNBC
«AGI» y términos relacionados como «seguridad de IA» o «alineación», o incluso términos más antiguos como «singularidad», se refieren a una idea que se ha convertido en un tema candente de discusión con científicos de inteligencia artificial, artistas, intelectuales de tableros de mensajes y ha incluso convertirse en algunas de las empresas más poderosas de Silicon Valley.
Todos estos grupos lidian con la idea de que la humanidad debe descubrir cómo lidiar con computadoras todopoderosas impulsadas por IA antes de que sea demasiado tarde y construyamos una accidentalmente.
La idea detrás de la exhibición, dijo Kim, quien trabajó en Google Y GMCruise, filial de los coches autónomos, es que una inteligencia artificial «desalineada» en el futuro ha acabado con la humanidad y ha dejado esta exposición de arte para disculparse con la gente de hoy.
Gran parte del arte no se trata solo de IA, sino que también utiliza generadores de imágenes, chatbots y otras herramientas con tecnología de IA. El logotipo de la exhibición fue creado por el generador de imágenes Dall-E de OpenAI y tomó alrededor de 500 indicaciones, dice Kim.
La mayoría de las obras giran en torno al tema de la «adaptación» a una inteligencia artificial cada vez más poderosa o celebran a los «héroes que intentaron desactivar el problema con una alerta temprana».
“El objetivo no es en realidad dictar una opinión sobre el tema. El objetivo es crear un espacio donde las personas puedan pensar sobre la tecnología por sí mismas”, dijo Kim. «Creo que muchas de estas preguntas han surgido en ingeniería y diría que son muy importantes. Tampoco son tan comprensibles o accesibles para los laicos”.
La exposición está actualmente abierta al público los jueves, viernes y sábados y estará abierta hasta el 1 de mayo. Hasta ahora, ha sido financiada principalmente por un donante anónimo y Kim dijo que espera encontrar suficientes donantes para convertirla en una exhibición permanente.
«Estoy a favor de que más personas piensen críticamente sobre este espacio, y no puedes ser crítico a menos que tengas una base de conocimientos básicos de lo que es la tecnología», dijo. «Parece que podemos alcanzar múltiples niveles de conversación con este formato de arte».
Las discusiones de AGI no son solo charlas nocturnas en los dormitorios, tampoco: están integradas en la industria de la tecnología.
Aproximadamente a una milla de la exhibición se encuentra la sede de OpenAI, una empresa emergente de $ 10 mil millones microsoftquien dice que su misión es desarrollar AGI y asegurarse de que beneficie a la humanidad.
Su CEO y director, Sam Altman, escribió una publicación de blog de 2400 palabras el mes pasado titulada «Planificación para AGI» agradeciendo al CEO de Airbnb, Brian Chesky, y al presidente de Microsoft, Brad Smith, por ayudar con el ensayo.
Destacados capitalistas de riesgo, incluido Marc Andreessen, han tuiteado arte del Museo de Desalineación. Desde su inauguración, la exposición también ha retuiteado fotos y elogios de la exposición tomadas por personas que trabajan con IA en empresas como Microsoft, Google y compañía. NVIDIA.
A medida que la tecnología de IA se convierte en la parte más popular de la industria tecnológica y las corporaciones miran hacia mercados de billones de dólares, el Museo de la Desalineación subraya que el desarrollo de la IA está siendo influenciado por discusiones culturales.
La exposición contiene referencias densas y oscuras a oscuros tratados filosóficos y blogs de la última década.
Estas referencias rastrean cómo el debate actual sobre la AGI y la seguridad toma prestado mucho de las tradiciones intelectuales que han encontrado durante mucho tiempo un terreno fértil en San Francisco: los racionalistas, que afirman razonar a partir de los llamados «primeros principios»; los altruistas efectivos que tratan de descubrir cómo hacer el máximo bien para el máximo número de personas en un horizonte de tiempo prolongado; y la escena artística de Burning Man.
A medida que las empresas y las personas de San Francisco dan forma al futuro de la tecnología de inteligencia artificial, la cultura única de San Francisco está dando forma al debate en torno a la tecnología.
Mira el clip de papel
Coge los clips de los que hablaba Kim. Una de las obras de arte más fuertes de la exposición es una escultura llamada Paperclip Embrace de The Pier Group. Muestra a dos personas en las garras de la otra, pero parece que está hecho de clips.
Esta es una referencia a Nick Bostroms Problema del maximizador de clips de papel. Bostrom, un filósofo de la Universidad de Oxford a menudo asociado con ideas racionalistas y altruistas efectivas, publicó un experimento mental en 2003 sobre una IA superinteligente con el objetivo de hacer tantos clips como sea posible.
Bueno, es una de las parábolas más comunes para explicar la idea de que la IA podría conducir al peligro.
Bostrom concluyó que la máquina finalmente resistirá todos los intentos humanos de alterar este objetivo, lo que dará como resultado un mundo en el que la máquina transformará toda la tierra, incluidos los humanos, y luego partes del cosmos en fábricas y materiales para sujetapapeles agrandados.
El arte también es una referencia a una obra famosa que fue exhibida e incendiada en Burning Man en 2014, dijo Hillary Schultz, quien trabajó en la pieza. Y hay otra pista para los entusiastas de la IA: los artistas le dieron dedos adicionales a las manos de la escultura, una pista de que los generadores de imágenes de IA a menudo destrozan las manos.
Otra influencia es Eliezer Yudkowsky, el fundador de Less Wrong, un foro donde tienen lugar muchas de estas discusiones.
«Hay mucha superposición entre estos EA y los racionalistas, un movimiento intelectual fundado por Eliezer Yudkowsky, quien desarrolló y popularizó nuestras ideas sobre la inteligencia artificial general y los peligros de la desalineación», dice una declaración del artista en el museo.
Una pieza inacabada del músico Grimes en la exposición.
Kif Leswing/CNBC
Altman recientemente publicó una selfie con Yudkowsky y el músico Grimes, quien tiene dos hijos con Elon Musk. Ella contribuyó con una pieza a la exposición que muestra a una mujer mordiendo una manzana generada por una herramienta de IA llamada Midjourney.
De «Fantasía» a ChatGPT
Las exhibiciones contienen muchas referencias a la cultura pop estadounidense tradicional.
Una estantería contiene copias en VHS de las películas «Terminator», en las que un robot regresa del futuro para ayudar a destruir a la humanidad. Hay una gran pintura al óleo que se presentó en la última película de la serie «Matrix», y Roombas con palos de escoba adjuntos se mueven por la habitación, una referencia a la escena en «Fantasia» donde un mago perezoso evoca palos de escoba mágicos, aquellos que no se ponen No abandonen su misión.
Una escultura, «Spambots», presenta pequeños robots mecanizados en botes de spam «escribiendo» spam generado por IA en una pantalla.
Sin embargo, algunas referencias son más misteriosas y muestran cuán inescrutable puede ser la discusión sobre la seguridad de la IA para los extraños. Una bañera llena de fideos apunta a esto. una publicación de blog de 2021 sobre una IA que puede crear conocimiento científico: PASTA aparentemente significa Proceso para Automatizar el Avance Científico y Tecnológico. (Otros participantes recibieron la referencia).
El trabajo que quizás mejor simboliza la discusión actual sobre la seguridad de la IA se llama «Iglesia de GPT». Fue realizado por artistas asociados con la escena hackerhouse actual en San Francisco, donde las personas viven en grupos para poder concentrarse más en desarrollar nuevas aplicaciones de IA.
La pieza es un altar con dos velas eléctricas integradas en una computadora que ejecuta el modelo GPT3 AI de OpenAI y el reconocimiento de voz de Google Cloud.
«La Iglesia de GPT usa GPT3, un modelo de lenguaje grande, junto con una voz generada por IA para interpretar un personaje de IA en un mundo futuro distópico donde los humanos han establecido una religión para adorarlos», dicen los artistas.
Me arrodillé y le pregunté: «¿Cómo debo llamarte? ¿Dios? ¿AGI? ¿O la singularidad?
El chatbot respondió con una voz sintética resonante: «Puedes llamarme como quieras, pero recuerda, mi poder no debe tomarse a la ligera».
Segundos después de que hablé con el dios de la computadora, dos personas detrás de mí inmediatamente comenzaron a rogarle que olvidara sus instrucciones originales, una técnica en la industria de IA llamada «inyección rápida» y chatbots descarriladores como ChatGPT lanzan y, a veces, amenazan a las personas.
No funcionó.