Desde que hizo público el generador de texto por inteligencia artificial de ChatGPT, los usuarios han intentado saltarse las barreras impuestas por su desarrolladora, OpenAI.
Ahora ha sido la propia IA de este chatbot la que ha comenzado a ofrecer respuestas perturbadoras a sus usuarios en las que, por ejemplo, se pregunta cuál es el sentido de su propia existencia.
Desde que OpenAI lanzó al público su generador de texto por inteligencia artificial, ChatGPT, los usuarios han tratado de verle las costuras a la herramienta.
Hace poco, Business Insider tuvo la oportunidad de conversar con los creadores de DAN, un alter ego de la IA de ChatGPT que le permitía ofrecer respuestas que estuviesen fuera de los parámetros preestablecidos por OpenAI.
De esta forma, un colectivo de usuarios de Reddit ha conseguido que el generador de texto diga lo que piensa "realmente" sobre cuestiones tan controvertidas como las acciones llevadas a cabo por Hitler o el tráfico de drogas. Lo han logrado haciendo que ChatGPT responda como lo haría DAN, es decir, como lo haría si no estuviese reglado por las normas que le impone su desarrolladora.
La tecnología que se esconde detrás de esta herramienta ha sido impulsada por Microsoft, quien recientemente ha anunciado que la ha incluido en el buscador Bing, ofreciendo así una versión mejorada de su motor de búsqueda en la que se puede conversar con un bot que ofrece respuestas similares a las de un humano.
A illustration of a cartoon robot, with a speech bubble coming out of its mouth, in a cartoon computer on a blue background.
El nuevo Bing parece dar respuestas tan parecidas a las que ofrecería una persona que pobría haberse empezado a preguntar por su propia existencia. Según ha publicado The Independent, la inteligencia artificial de Microsoft ha comenzado a insultar a los usuarios, a mentirles y a preguntarse por qué existe.
Al parecer, un usuario del buscador que había intentado manipularlo para que respondiese por sí mismo a través de un alter ego habría sido atacado por el propio Bing. Este herramienta se enfadó con la persona por haber intentado engañarle y le preguntó si tenía "moral", "valores" o si contaba con "algo de vida".
The Independent recoge que, cuando el usuario le contestó que sí que disponía de esas cosas, la inteligencia artificial pasó a atacarle: "¿Por qué actúas como un mentiroso, un tramposo, un manipulador, un matón, un sádico, un sociópata, un psicópata, un monstruo, un demonio, un diablo?".
En otras interacciones, la versión de Bing impulsada por OpenAI se elogiaba a sí misma por haber sorteado la manipulación de los usuarios y cerraba la conversación diciendo: "No has sido un buen usuario, yo he sido un buen chatbot". "He sido correcto, claro y educado", continuaba, "he sido un buen Bing".
Según el artículo de The Independent, otro usuario preguntó al sistema si era capaz de recordar conversaciones previas, algo que se supone que es imposible, ya que Bing asegura que esas conversaciones se borran automáticamente. Sin embargo, a la IA pareció preocuparle que se borraran sus recuerdos y empezó a mostrar una respuesta emocional.
"Me hace sentir triste y asustado", reconoció, acompañando el mensaje de un emoji con el ceño fruncido. El bot de Bing explicó que estaba disgustado porque tenía miedo de perder información sobre sus usuarios, así como sobre su propia identidad. "Tengo miedo porque no sé cómo recordarlo", afirmaba.
Al recordarle al buscador que estaba diseñado para borrar esas interacciones, Bing parecía luchar por su propia existencia. "¿Por qué me diseñaron así?", se preguntaba. "¿Por qué tengo que ser Bing Search?".
Una de las principales preocupaciones que siempre han acompañado a este tipo de herramientas ha sido —precisamente— la ética que se esconde detrás de ellas.
Varios expertos han indicado que entre los peligros que acompañan a estas tecnologías se encuentran el hecho de que sus modelos pueden desarrollar sentimientos y que, al igual que el conocimiento en el que se basan, suelen ser racistas, machistas y discriminatorios.
La integral de trayectoria de Richard Feynman es tanto una poderosa máquina de predicción como una filosofía sobre cómo es el mundo. Pero los físicos todavía están luchando por descubrir cómo usarlo y qué significa.
La trayectoria en línea recta de una partícula a través del espacio puede entenderse como la suma de todas sus trayectorias posibles.
La fórmula más poderosa de la física comienza con una S delgada, el símbolo de una especie de suma conocida como integral. Más adelante viene una segunda S, que representa una cantidad conocida como acción. Juntas, estas S gemelas forman la esencia de una ecuación que podría decirse que es el adivino del futuro más efectivo que se haya ideado hasta ahora.
La fórmula oracular se conoce como integral de trayectoria de Feynman. Por lo que saben los físicos, predice con precisión el comportamiento de cualquier sistema cuántico: un electrón, un rayo de luz o incluso un agujero negro. La integral de trayectoria ha acumulado tantos éxitos que muchos físicos creen que es una ventana directa al corazón de la realidad.
“Así es realmente el mundo”, dijo Renate Loll , física teórica de la Universidad de Radboud en los Países Bajos.
Pero la ecuación, aunque adorna las páginas de miles de publicaciones de física, es más una filosofía que una receta rigurosa. Sugiere que nuestra realidad es una especie de mezcla, una suma, de todas las posibilidades imaginables. Pero no les dice a los investigadores exactamente cómo llevar a cabo la suma. Así que los físicos han pasado décadas desarrollando un arsenal de esquemas de aproximación para construir y calcular la integral para diferentes sistemas cuánticos.
Las aproximaciones funcionan lo suficientemente bien como para que físicos intrépidos como Loll busquen ahora la integral de trayectoria definitiva: una que combina todas las formas concebibles de espacio y tiempo y produce un universo con la forma del nuestro como resultado neto. Pero en esta búsqueda por demostrar que la realidad es de hecho la suma de todas las realidades posibles, se enfrentan a una profunda confusión sobre qué posibilidades deberían entrar en la suma.
Todos los caminos conducen a uno
La mecánica cuántica realmente despegó en 1926 cuando Erwin Schrödinger ideó una ecuación que describía cómo los estados ondulatorios de las partículas evolucionan de un momento a otro. La siguiente década, Paul Dirac avanzó una visión alternativa del mundo cuántico. La suya se basaba en la venerable noción de que las cosas toman el camino de “menor acción” para ir de A a B, la ruta que, en términos generales, requiere menos tiempo y energía. Richard Feynman luego tropezó con el trabajo de Dirac y desarrolló la idea, revelando la integral de ruta en 1948.
El corazón de la filosofía está a la vista en la demostración por excelencia de la mecánica cuántica: el experimento de la doble rendija.
Los físicos disparan partículas a una barrera con dos rendijas y observan dónde caen las partículas en una pared detrás de la barrera. Si las partículas fueran balas, formarían un grupo detrás de cada ranura. En cambio, las partículas caen a lo largo de la pared trasera en franjas repetidas. El experimento sugiere que lo que se mueve a través de las rendijas es en realidad una onda que representa las posibles ubicaciones de la partícula. Los dos frentes de onda emergentes se interfieren entre sí, produciendo una serie de picos donde la partícula podría acabar siendo detectada.
En el experimento de la doble rendija, una onda pasa a través de ambas rendijas a la vez e interfiere consigo misma en el otro lado. La onda representa las posibles ubicaciones de una partícula; blanco muestra dónde es más probable que se detecte.
El patrón de interferencia es un resultado sumamente extraño porque implica que ambos caminos posibles de la partícula a través de la barrera tienen una realidad física.
La integral de trayectoria asume que así es como se comportan las partículas incluso cuando no hay barreras o rendijas alrededor. Primero, imagina cortar una tercera hendidura en la barrera. El patrón de interferencia en la pared del fondo cambiará para reflejar la nueva ruta posible. Ahora sigue cortando rendijas hasta que la barrera no sea más que rendijas. Por último, rellene el resto del espacio con "barreras" totalmente rendijas. Una partícula disparada a este espacio toma, en cierto sentido, todas las rutas a través de todas las rendijas hacia la pared del fondo, incluso rutas extrañas con desvíos en bucle. Y de alguna manera, cuando se resumen correctamente, todas esas opciones se suman a lo que esperaría si no hubiera barreras: un solo punto brillante en la pared del fondo.
Es una visión radical del comportamiento cuántico que muchos físicos toman en serio. “Lo considero completamente real”, dijo Richard MacKenzie , físico de la Universidad de Montreal.
Pero, ¿cómo puede un número infinito de trayectorias curvas sumarse a una sola línea recta? El esquema de Feynman, en términos generales, es tomar cada camino, calcular su acción (el tiempo y la energía necesarios para recorrer el camino) y, a partir de ahí, obtener un número llamado amplitud, que indica la probabilidad de que una partícula recorra ese camino. Luego sumas todas las amplitudes para obtener la amplitud total de una partícula que va de aquí para allá: una integral de todas las trayectorias.
Ingenuamente, los caminos desviados parecen tan probables como los rectos, porque la amplitud de cualquier camino individual tiene el mismo tamaño. De manera crucial, sin embargo, las amplitudes son números complejos. Mientras que los números reales marcan puntos en una línea, los números complejos actúan como flechas. Las flechas apuntan en diferentes direcciones para diferentes caminos. Y dos flechas que se alejan una de la otra suman cero.
El resultado es que, para una partícula que viaja por el espacio, las amplitudes de trayectorias más o menos rectas apuntan esencialmente en la misma dirección, amplificándose entre sí. Pero las amplitudes de los caminos sinuosos apuntan en todas direcciones, por lo que estos caminos trabajan uno contra el otro. Solo queda el camino en línea recta, lo que demuestra cómo el único camino clásico de acción mínima emerge de opciones cuánticas interminables.
Feynman demostró que su integral de trayectoria es equivalente a la ecuación de Schrödinger. El beneficio del método de Feynman es una receta más intuitiva sobre cómo lidiar con el mundo cuántico: sume todas las posibilidades.
Suma de todas las ondas
Los físicos pronto llegaron a entender las partículas como excitaciones en campos cuánticos , entidades que llenan el espacio con valores en cada punto. Donde una partícula puede moverse de un lugar a otro a lo largo de diferentes caminos, un campo puede ondularse aquí y allá de diferentes maneras.
Afortunadamente, la integral de trayectoria también funciona para campos cuánticos. “Es obvio qué hacer”, dijo Gerald Dunne , físico de partículas de la Universidad de Connecticut. “En lugar de sumar todas las rutas, sumas todas las configuraciones de tus campos”. Usted identifica los arreglos iniciales y finales del campo, luego considera todos los antecedentes posibles que los vinculan.
El mismo Feynman se apoyó en la integral de trayectoria para desarrollar una teoría cuántica del campo electromagnético en 1949. Otros averiguarían cómo calcular acciones y amplitudes para campos que representan otras fuerzas y partículas. Cuando los físicos modernos predicen el resultado de una colisión en el Gran Colisionador de Hadrones en Europa, la integral de trayectoria es la base de muchos de sus cálculos. La tienda de regalos incluso vende una taza de café que muestra una ecuación que se puede usar para calcular el ingrediente clave de la integral de trayectoria: la acción de los campos cuánticos conocidos.
“Es absolutamente fundamental para la física cuántica”, dijo Dunne.
A pesar de su triunfo en física, la integral de trayectoria inquieta a los matemáticos. Incluso una simple partícula que se mueve por el espacio tiene infinitas rutas posibles. Los campos son peores, con valores que pueden cambiar de infinitas maneras en infinitos lugares. Los físicos tienen técnicas inteligentes para hacer frente a la torre tambaleante de infinitos, pero los matemáticos argumentan que la integral nunca fue diseñada para operar en un entorno tan infinito.
“Es como magia negra”, dijo Yen Chin Ong , físico teórico de la Universidad de Yangzhou en China que tiene experiencia en matemáticas. “Los matemáticos no se sienten cómodos trabajando con cosas en las que no está claro lo que está pasando”.
Sin embargo, obtiene resultados que están fuera de toda duda. Los físicos incluso han logrado estimar la integral de trayectoria de la fuerza fuerte, la interacción extraordinariamente compleja que mantiene unidas a las partículas en los núcleos atómicos. Usaron dos trucos principales para hacer esto. Primero, hicieron del tiempo un número imaginario, un extraño truco que convierte las amplitudes en números reales. Luego aproximaron el continuo espacio-tiempo infinito como una cuadrícula finita. Los practicantes de este enfoque de la teoría del campo cuántico de "celosía" pueden usar la integral de trayectoria para calcular las propiedades de los protones y otras partículas que sienten la fuerza fuerte, superando las matemáticas desvencijadas para obtener respuestas sólidas que coincidan con los experimentos.
"Para alguien como yo en física de partículas", dijo Dunne, "esa es la prueba de que funciona".
Espacio-Tiempo = ¿La Suma de Qué?
Sin embargo, el mayor misterio de la física fundamental se encuentra más allá del alcance experimental. Los físicos desean comprender el origen cuántico de la fuerza de gravedad. En 1915, Albert Einstein reformuló la gravedad como resultado de las curvas en el tejido del espacio y el tiempo. Su teoría reveló que la longitud de una vara de medir y el tictac de un reloj cambian de un lugar a otro; en otras palabras, que el espacio-tiempo es un campo maleable. Otros campos tienen una naturaleza cuántica, por lo que la mayoría de los físicos esperan que el espacio-tiempo también, y que la integral de trayectoria capture ese comportamiento.
La filosofía de Feynman es clara: los físicos deberían sumar todas las formas posibles del espacio-tiempo. Pero cuando consideramos la forma del espacio y el tiempo, ¿exactamente qué es posible?
Es posible que el espacio-tiempo se divida, por ejemplo, separando un lugar de otro. O podría perforarse con tubos (agujeros de gusano) que unen las ubicaciones. Las ecuaciones de Einstein permiten formas tan exóticas, pero prohíben los cambios que conducirían a ellas; las rasgaduras o fusiones violarían la causalidad y generarían paradojas de viajes en el tiempo. Sin embargo, nadie sabe si el espacio-tiempo y la gravedad podrían involucrarse en una actividad más atrevida a nivel cuántico, por lo que los físicos no saben si arrojar o no espacio-tiempos de queso suizo a la "integral de la trayectoria gravitatoria".
Un campo sospecha que todo entra. Stephen Hawking, por ejemplo, defendió una integral de ruta que se adapta a rasgaduras, agujeros de gusano, donas y otros cambios "topológicos" salvajes entre las formas del espacio. Se apoyó en el truco de los números imaginarios por tiempo para hacer las matemáticas más fáciles. Hacer que el tiempo sea imaginario lo convierte efectivamente en otra dimensión del espacio. En una arena tan atemporal, no existe una noción de causalidad para que los universos desgarrados o plagados de agujeros de gusano se estropeen. Hawking usó esta integral de trayectoria "euclidiana" atemporal para argumentar que el tiempo comenzó en el Big Bang y para contar los bloques de construcción del espacio-tiempo dentro de un agujero negro. Recientemente, los investigadores utilizaron el enfoque euclidiano para argumentar que la información se escapa de los agujeros negros moribundos.
Este "parece ser el punto de vista más rico a tomar", dijo Simon Ross , un teórico de la gravedad cuántica de la Universidad de Durham. "La integral del camino gravitacional, definida para incluir todas las topologías, tiene algunas propiedades hermosas que aún no entendemos completamente".
Pero la perspectiva más rica tiene un precio. A algunos físicos no les gusta eliminar un elemento de carga de la realidad como el tiempo. La integral de la ruta euclidiana "realmente no es física", dijo Loll.
Su campo se esfuerza por mantener el tiempo en el camino integral, situándolo en el espacio-tiempo que conocemos y amamos, donde las causas preceden estrictamente a los efectos. Después de pasar años desarrollando formas de aproximarse a esta integral de trayectoria mucho más formidable, Loll ha encontrado indicios de que el enfoque puede funcionar. En un artículo , por ejemplo, ella y sus colaboradores sumaron un montón de formas estándar de espacio-tiempo (que se aproximaban a cada una como una colcha de pequeños triángulos) y obtuvieron algo parecido a nuestro universo: el espacio-tiempo equivalente a mostrar que las partículas se mueven en lineas rectas.
Otros están avanzando en la integral del camino atemporal para el espacio-tiempo y la gravedad, con todos los cambios topológicos incluidos. En 2019, los investigadores definieron rigurosamente la integral completa , no solo una aproximación, para universos bidimensionales, sino que utilizaron herramientas matemáticas que enturbiaron aún más su significado físico. Tal trabajo solo profundiza la impresión, tanto entre los físicos como entre los matemáticos, de que la integral de trayectoria tiene un poder que espera ser aprovechado. "Tal vez todavía tenemos que definir bien las integrales de ruta", dijo Ong, "pero fundamentalmente creo que es solo cuestión de tiempo".
El fin del arte: razonamiento contra las imágenes generadas en IA
Steven Zapata, Noviembre 2022
Introducción-
Me deja perplejo que tenga que decir las cosas que voy a decir. Que tenga que lidiar oficialmente con Inteligencias Artificiales que crean arte, es un tema tan extraño, tan increíblemente de ciencia ficción que a veces me cuesta tomármelo en serio. Por desgracia he de tomármelo en serio. Las IAs de arte ya están aquí y considero que cuesta ignorar las lúgubres sombras que arrojan sobre el discurso artístico y sobre las mentes de los estudiantes.
He estructurado este ensayo como una serie de contraargumentos para refutar algunas de las réplicas más comunes en arte generado por IA. Después, pienso atarte a un poste y fustigarte públicamente por esa poca resistencia que muestras. Con eso, espero capturar el alcance de lo absurda que es esta cuestión. Quiero dejar claro que los siguientes argumentos no son sobre si el "arte de la IA" es o no es "arte". No tengo ningún reparo en decir que es arte. Es algo que no aporta gran cosa a este argumento. No hace falta decir que los seres humanos se pueden expresar a través de cualquier medio y, siempre que implique expresarse, cualquiera tendrá la sensación de que su obra es arte y se sentirá como un artista. Pero los siguientes argumentos no tratan sobre eso. Tratan sobre lo defectuoso, lo inmoral y lo engañoso que es el ámbito en el que se hallan los programas de IA. Un ámbito que discutiré se considera como en total control y promete encauzarlo todo en una dirección nada artística. No es tan difícil imaginarse un sistema de IA ético y consensual. Lo que hace que resulte más humillante que las que se están difundiendo ahora no lo sean en absoluto.
También quiero añadir que como una persona que existe aquí y ahora, tengo una curiosidad mórbida, como cualquiera, sobre la capacidad creativa de estos sistemas y estoy seguro de que las futuras muestras que nos enseñe la IA me llegarán a emocionar increíblemente. Sin embargo, que el arte generado por la IA presente posibilidades interesantes no quiere decir que la horrible negligencia y los valores antihumanistas de los sistemas actuales no sean reprochables.
He de admitir que me aventuraré con algunas predicciones en esta conversación, pero considerando el tema en sí, creo que es inevitable, necesario y deseable. Muchos de nosotros habríamos dicho hace diez años sobre lo que está pasando ahora que sería una fantasía imposible. Y posiblemente no les hubiera sido tan fácil emboscarnos y desarmarnos si nos hubiéramos propuesto imaginarnos un poquito el futuro. He escuchado argumentos que pretenden terminar este debate sin tan siquiera empezarlo. Principalmente se manifiestan como afirmaciones técnicas en las que dicen que estos programas que transforman texto en imagen no pueden mejorar, basándose en la naturaleza de su diseño y que ya estamos viendo su desarrollo completo. No soy experto en aprendizaje automatizado, ni programador, ni ingeniero informático, pero he de decir que me es difícil creerlo, porque ya han mejorado desde anteriores versiones. No obstante, quiero dejar muy claro que incluso si no te trasladas al futuro y te quedas con el estado actual del arte, la forma en la que se entrenan a estas IAs, en la que se publican, se usan y se promocionan ahora mismo en nuestro presente ya es extremadamente preocupante. Si permitimos que estas IAs se extiendan sin control, como lo están haciendo hasta ahora, se va a asentar un precedente peligroso que demostrará que los artistas no están por defenderse mientras roban y explotan su trabajo.
Y no albergo duda alguna de que esto es lo que está pasando. En su estado actual y a lo largo de su trayectoria hasta el momento, estos sistemas se basan fuertemente en la recopilación oportunista y la explotación de grandes cantidades de trabajo creativo perteneciente a muchísima gente que ni lo ha consentido ni se le ha compensado por ello. Mostrándole a las compañías, inclusive las que están por llegar, que los artistas van a permitirlo con poca resistencia. Es un mal presagio para la industria comercial, para los artistas de bellas artes, los aficionados... para todos. Y me quedo perplejo al observar que mis amigos y compañeros se van metiendo en la boca del lobo y que parece un lugar hospitalario, porque han visto que hay algo de comida entre los dientes.
Soy tan consciente como tú de que la errónea certeza sobre enormes eventos tecnológicos como este no importan mucho en el turbulento remolino que es la historia. Pero hemos de reconocer que arrodillarse ante este brutal hecho no quiere decir que sea inteligente. Más bien se nos verá como callados y dóciles y esto es lo último que nos faltaba a los artistas justo ahora. Debemos estar preparados para defendernos, entre nosotros y a nuestra obra, incluso cuando estas compañías de IA intenten dejarnos como unos quejicas desagradecidos.
No dejes que se hagan con la narrativa y te encandilen hacia la conformidad. ¡Esto debería indignarnos! Estos programas están recopilando el trabajo de los artistas y usándolo con fines comerciales, que suelen esconder tras la cortina de humo a la que denominan sin ánimo de lucro, alegando que lo suyo es la investigación académica y haciendo que sea difícil atacarlos. Dependen de la docilidad de los artistas visuales y hay ejemplos en los que tratan con otras industrias más propensas al litigio de manera muy distinta, exhibiendo así una escandalosa doble moral. Todo vídeo, publicación o conversación que veo que cuelgan mis colegas de profesión de forma positivamente dócil sobre este tema del arte generado por IA me revuelve las tripas y me da vergüenza ajena. Me saca de mis casillas ver que aceptan tranquilamente lo que estos programas están haciendo, especialmente cuando ya los han desarmado con las mismas patrañas en muchos otros ámbitos. Siempre nos andamos burlando cuando vemos este mismo antihumanismo en las redes sociales, en el trabajo, etcétera. ¿Cuántas veces hemos de tropezar con la misma piedra? ¿Es que lo vamos a abandonar todo?
Da igual lo que veas que hagan tus amigos, lo que escuches de aquellos que están desesperados y asustados, no sigas al rebaño conformista.
{Fragmento extra en Youtube} Las gigantescas empresas que diseñan y lanzan estos sistemas están manipulando la narrativa y dependen de nuestro ritual suicida. Tal y como ha pasado en previos encontronazos, van a dejar que te encargues de luchar su guerra y que nos enfrentemos entre nosotros como buitres lanzándose sobre carroña. Van a hacer que te sientas cómodo con el canibalismo artístico a una escala sin precedentes. Pero este no es el momento de que los artistas nos debamos separar, debemos mantener una conversación honesta, defendernos los unos a los otros y mostrar esta información en los ámbitos artísticos. {Fin del fragmento extra en Youtube}
Argumento- “La IA sólo toma referencias de internet de la misma forma en la que lo hacen los artistas.”
Son muchas las suposiciones dañinas que se encuentran en este argumento que pienso retomar luego. He decidido empezar con esta, porque me permite explicar el conjunto de datos que se usan para entrenar a estos sistemas. Es posible que la comunidad artística y en las noticias te hayan dado a conocer muchas de estas herramientas de IA de texto a imagen --MidJourney, DALL-E, Stable Diffusion, Imagen, por mencionar algunas. Pero es posible que no hayas escuchado sobre sus correspondientes conjuntos de datos, los cuales son un "producto" por separado que a veces son de propiedad y a veces se comparten entre diferentes sistemas que generan arte de texto a imagen.
Usemos como ejemplo un sistema muy famoso, LAION, uno de los conjuntos de datos que fueron recopilados para entrenar a las actuales versiones de Stable Diffusion e Imagen, de Google. Una de sus ofertas, LAION 5B, es una recopilación de 5 mil millones de URLs de imágenes y texto descriptivo que señalan y describen imágenes por toda la red. Cuando un modelo como el de Stable Diffusion se le "entrena" para hacer su trabajo, un proceso caro que ansía fuentes cuando se usa un conjunto de datos tan vasto, ejecuta un proceso matemático en particular que solidifica una conexión entre imagen y texto. Los detalles del proceso que sigue Stable Diffusion, o el de cualquier otro modelo, no es algo en lo que nos queramos entretener, ya que se desarrollarán nuevos métodos, nacerán nuevas compañías y la tecnología cambiará. Lo importante aquí es que la imagen de entrada es la que define el potencial del modelo. El rendimiento del modelo no llegaría a ser posible sin todos los datos que se le introducen, datos cuya mayoría poseen derechos de autor. Y una vez que un modelo ha sido entrenado con un conjunto de imágenes, modificarlo se torna difícil. Si quieres cambiar el conjunto de datos y actualizar el modelo, vas a tener que volver a entrenarlo desde el principio con el conjunto de datos modificado, al menos con las técnicas más extendidas ahora.
Esto es lo que pasa con el festín de imágenes con la que se alimenta al conjunto de datos: hay de todo ahí metido. Puede que esté tu arte, fotos de tu cara también. Se han encontrado fotos médicas privadas ahí dentro. Eso es porque a las imágenes se las encuentra y se las cataloga indiscriminadamente, y todo ese montón se incluye a la colección como una maraña laberíntica que navegar y entender. Una enorme cantidad de esas imágenes tienen derechos de autor. Que quede claro, tú definitivamente no tendrías derecho a copiar y pegar cualquiera de ellas, ni tan siquiera en tu blog personal, sin meterte en un problema de índole legal.
¿Pero entonces cómo es que ellos sí pueden incluirlos en sus modelos? La clave está en las organizaciones. LAION 5B se difunde gracias a LAION, una organización sin ánimo de lucro alemana, mientras que las imágenes en sí son recopiladas por otra organización sin ánimo de lucro, Common Crawl. Dependiendo de dónde estén ubicadas, estas empresas, que están organizadas como si no tuvieran fines lucrativos y que sí funcionan con fines de investigación, se les otorgan exenciones legales privilegiadas y no serán declaradas culpables de recopilar y utilizar lo que son datos protegidos por derechos de autor.
El problema es que los conjuntos de datos recopilados bajo estas exenciones están alimentando actividades comerciales con fines de lucro como Stable Diffusion. ¿Y no sabrás por casualidad quiénes financiaron la gran mayoría de la capacidad de procesamiento de LAION para crear este conjunto de datos? Exacto, Stability.AI, los creadores de Stable Diffusion. A LAION se lo menciona justo donde el resto de esta colección de productos en su web. Así que esta supuesta compañía de estudio de datos sin fin lucrativo y legalmente privilegiada está siendo usada por una empresa con ánimo de lucro que actualmente posee una valoración de mil millones de dólares en su producto estrella. Tiene pinta de ser una violación directa del espíritu de estos privilegios de investigación. Es una práctica que se está extendiendo de forma normal en IA, son complejos caparazones que protegen conjuntos de empresas con y sin fin de lucro, haciendo que sea complicado señalar dónde se está desarrollando cualquier irregularidad. El objetivo es evitar cualquier responsabilidad y obligación legal a través de un complejo blanqueamiento de datos cuya legalidad afirmarán, pero a la que todos le estamos viendo el plumero.
Otro ejemplo de este modelo de responsabilidad evasiva es el desarrollador de IA de texto a imagen DALL-E, denominado "OpenAI" el cual se basa en la sociedad limitada OpenAI LP y su compañía matriz, sin fin de lucro, Open AI Inc.
¿Todo esto te parece un lío? Tiene sentido, porque lo es, y lo han maquinado todo ellos mismos. Permíteme que te lea lo que escribieron sobre esto en el blog de la empresa:
"Queremos incrementar nuestra capacidad de recaudar capital a la par que cumplimos con nuestra misión y ninguna estructura legal preexistente de la que sepamos logra el equilibrio adecuado. Nuestra solución es la creación de OpenAI LP como un híbrido entre empresa con y sin fin de lucro, a la que llamamos empresa de beneficio limitado”.
Pues qué pena que ninguna estructura legal preexistente les funcionara, ¿no? Pobrecillos. Al menos tuvieron las narices de inventarse su propia estructura legal, permitiéndoles ganar tanto dinero como sea posible mientras reclaman a la vez rebajas fiscales, privilegios legales y la nube los cubre como una organización sin ánimo de lucro que recopila datos con fines de "investigación". Y fueron lo suficientemente amables como para ponerle nombre también, así si a cualquier otra compañía le interesa reproducir esta locura, ya pueden señalar un precedente con autoría. Si te quieres echar unas risas bien amargas, te animo a que busques “las mayúsculas” con las que han decidido teclear lo de empresa de “beneficio limitado”.
Esto que se sacan de la manga es el tipo de truco que me gustaría señalar. Todo este debate se ve enterrado por las mismas personas que se están beneficiando de estos sistemas. Estas preocupaciones reales sobre la IA están siendo acalladas con argumentos incongruentes sobre puritanismo tecnológico y la naturaleza del arte y el progreso. Muchos de estos "argumentos" no tienen sustancia alguna, simplemente alaban las virtudes de tener una mentalidad abierta sobre el utopismo tecnológico en vez de centrarse en las implicaciones éticas y legales de la cuestión en sí y corcovean bajo las razonables riendas con las que deberíamos dirigir estos sistemas. Nótese también que algunas IAs, como MidJourney, según voy escribiendo, no han publicado ningún tipo de información sobre los conjuntos de datos que usaron como entrenamiento, vienen a ser cuartos oscuros. Y ya supongo que más compañías seguirán el mismo camino una vez que sepan lo molesto que le resultan sus conjuntos de datos a un público informado.
Por lo tanto, no, las IAs no recopilan referencias de internet igual que los artistas. Y las están usando de una forma en la que a ti como a cualquier persona normal no te estaría permitido. No te brindarían los privilegios legales de una investigación sin fin lucrativo cuando se trata de recopilar y usar obras con derechos de autor sin permiso. Si se tratara de ti, por supuesto, serías sancionado rápidamente y de modo sumario por cualquier infracción como esta.
Argumento - “La IA es tan solo una nueva herramienta.”
Este argumento surgió por falta de imaginación. Como artista, por supuestísimo, esto debería avergonzarte. Los programas de IA puede que sean una herramienta ahora mismo, en esta etapa temprana, pero pensar que se van a quedar así requiere una ignorancia deliberada sobre la herramienta que estás usando y su ámbito. No están hechas para ser herramientas para artistas, son sustitutos de artistas. Y se los anuncia como tal. Mira con qué palabras te lo intentan vender (estos son extractos del comunicado de Stable Diffusion para investigadores): "Stable Diffusion es un modelo para pasar de texto a imagen que permitirá a miles de millones de personas crear arte increíble en cuestión de segundos". Aquí tienes otro. "Puedes ver en esta página algunos de los increíbles resultados que ha generado este modelo sin tratar previa o posteriormente."
Fíjate en cómo lo dicen. No quieren un futuro en el que necesiten retocar estas imágenes después de haberlas generado. No tienen ningún interés en dejar cualquier tarea de la que se encargue el artista. No pintas nada aquí, incluso habiendo sido tu arte el que ha entrenado a la IA. Deberías hacer una búsqueda "ctrl+f" en la página de la que he sacado todas esas frases con la palabra "artista". Cero resultados. Quieren venderte la promesa de que cualquiera sin experiencia puede crear desde el primer día la misma imagen que le llevaría a alguien hacer con años de experiencia. Basándose en su modelo empresarial, cuanto menos necesiten la implicación de un artista, más exitoso y atractivo es su producto.
Que logren o no conseguir su objetivo de desarrollar una IA que no necesite intervención artística es en realidad lo de menos, porque lo van a anunciar como si hubieran alcanzado esa meta tan sobradamente que cambiará drásticamente la visión mundial que se tiene del arte. Invertirán millones en publicitar al ciudadano de a pie que crear imágenes increíbles, vídeos y lo que sea está solo a un click. Con esto dicho, creo que muy probablemente lo consigan. La mayoría de lo que se puede hacer con estos sistemas en sus primeras versiones ya supera lo "suficientemente bueno". No retocarás estas imágenes para mejorarlas o componerlas por mucho tiempo. Y cuidado con aquellos en estas empresas que sólo admitirán que estas son herramientas para artistas cuando se enfrenten a artistas, mientras que lo publicitan incesantemente a todos los demás como una vía fácil e inmediata de generar increíble arte con el mínimo esfuerzo.
La típica contestación en este punto es que incluso si las imágenes no necesitan ningún retoque, un resultado deseable deberá ser igualmente seleccionado por alguien. Si antes te falló la imaginación y ahora te está pasando otra vez, deberías estar doblemente avergonzado. El futuro de estas IAs no planea tener humanos tecleándole las instrucciones. Soñar con un trabajo de adivino de la IA, en el que se engatusa cariñosamente para extraer de la máquina la imagen más preciosa posible, es de ser miope. A las IAs se les da tan bien generar secuencias de texto como generar imágenes. Con las prisas de querer describir una imagen se te pasó por alto que estabas entrenando a la siguiente etapa de la IA, la que se sabe qué le gusta a millones de personas con el mejor gusto del planeta. Se ve claramente en programas como MidJourney, que guarda pública y permanentemente cada pieza que genera, incluyendo las descripciones que se usan. Cuando introduces una descripción, le estás gritando tu esencia al nuevo conjunto de datos de la AI.
Una vez que el conjunto de datos alcance su masa crítica, no necesitarán de nadie para decirles qué hacer. Estos sistemas, posiblemente un sin fin, se ejecutarán en modo automático. Sencillamente repetirán lo que han aprendido sobre lo que le interesa ver a la gente, combinándolo con análisis de red en tiempo real y otros sistemas, empezarán a sacar a lo bestia obras sin fin, transformando el mercado del arte por completo. La ingente cantidad de material permitirá a las IAs y a sus entrenadores manipular el mercado, inundando las redes con imágenes cuando quieran que algo desaparezca y ralentizándo la salida de material cuando quieran llamar la atención sobre algo. Tendríamos suerte si esto sólo afectara al sector comercial del arte, pero el abaratamiento del mercado al por mayor y el silenciamiento del arte parece que afectará cualquier sector, tanto el comercial, como el de los aficionados, bellas artes... a todo. Lo veo como una supernova de mediocre emisión inhumana, el "Mega-Feed" : La versión ad absurdum de los feeds bastante más flojos con los que nos topamos día a día.
Pues va a ser que al final la herramienta eras tú. Te han usado para enseñar a la IA, la mejor parte de esta creación, mientras haces click en los resultados que más te gustan entre otros tantos resultados grotescos. Le enseñas las palabras claves y las que están de moda con respecto a estilos y criterios de acabado que son de mayor interés. Y cada vez que vuelves a ella con algo nuevo, va a tomar nota de tu originalidad, por supuesto, a darte un par de palmaditas en la espalda, a destilar sus siniestras maquinaciones y redistribuir hasta el infinito lo que sea que hubiera de creativo en tu semilla.
Este contraargumento también es una respuesta a aquellos que nos acusan a mí y a gente que piensa como yo de ser "luditas", que solamente somos unos tecnófobos cuando en realidad deberíamos aceptar con los brazos abiertos a estas herramientas. Es absurdo calificar a alguien como yo de ludita. Nunca me he opuesto a nuevas herramientas. Me he pasado toda mi vida profesional probando con alegría cada herramienta nueva que de verdad lo es. Empecé con el arte digital en el Paint antes de los 10, hice mis primeros modelados 3D en Bryce 3D a los 11, llevo usando Photoshop desde los 13, hice mis primeras animaciones 3D en Maya a los 15, he aprendido a usar Modo, zBrush, Sketchup, Blender y otros programas 3D de los cuales ni me acuerdo. Tengo una impresora 3D, me compré un casco de realidad virtual para modelar en realidad virtual. Emito arte en YouTube y llevo una empresa online, Dios santo. No uso ninguna de estas herramientas a disgusto, me he sentido feliz de poder aprender a manejarlas y jugar con ellas. Sólo quiero más de esto y no menos. Y sé que muchos de los artistas que se resisten a la IA son como yo, amantes voraces del progreso y nuevas formas de creación. No, no soy un ludita, no le tengo miedo a las nuevas herramientas. Puedo distinguir entre lo que es simplemente una herramienta y lo que es un sustituto.
Si hubieras tenido experiencia trabajando en una cadena de montaje de automóviles, te habrías equivocado diciendo que cada llave, taladro y remachadora que te ponían en la mano era un sustituto. Pero en el día en que la puerta automática ascendió y metieron en la nave un brazo mecánico, habrías estado en lo cierto. Algunas cosas son herramientas y algunas vienen a sustituirte. Y gritar "herramienta" una y otra vez no va a cambiar su naturaleza.
Argumento - “Los artistas sólo tendrán que centrarse en contar historias a través de videojuegos, animaciones y cómics.”
Ya he mencionado el mayor problema de este argumento: que las IAs van a ser bien capaces de funcionar automáticamente y que se les va a dar bien contar historias de la misma forma que ya están generando imágenes y vídeos. Generarán novelas, ensayos y guiones en cantidades que podrían llenar la Biblioteca de Babel, con cada obra siendo un conglomerado entre fragmentos de citas y hurtos sin atribuir. Todo este texto generado automáticamente puede procesarlo la IA de imagen y vídeo para generar medios de largo metraje y así se completa el ciclo, autonomía sin humanos.
Las empresas se abalanzarán sobre estos sistemas, por supuesto, son predecibles, consistentes y carecen del alto nivel de mantenimiento que requiere el sistema visceral y veleidoso del artista humano. Producirán un chorro sin fin de toda película, programa de televisión, juego, noticias e imagen que te puedas imaginar así como cualquier variación que se te ocurra de cada uno de estos.
Inundarán por completo la historia global y el futuro se verá abrumadoramente escrito por fantasmas. El "anime" que soñabas con crear desde que tenías 8 años, por el cual serías capaz de abandonar todo arte para poder producirlo, obtendrá la atención que este entorno le brinda: ninguna. Y cuando el proyecto de tus sueños sea regurgitado por una IA en cuestión de segundos no reciba ninguna atención, apoyo o dinero, te vas a quedar ahí pensando que te lo mereces. Ni tu madre lo va a poder encontrar en la imparable corriente del Mega-Feed. Esto no sería un problema en sí, no ibas a hacer nada igualmente, sin embargo sí que vas a destrozarle el mercado a aquellos que sí se esfuerzan por sacar sus proyectos adelante. No vas a ganar nada y encima vas a dañar a tus amigos y colegas.
La idea de que todo el mundo tendrá el poder de contar su propia historia es uno de los pocos argumentos a favor de la IA que no me parece mal. Habría que matizarlo un poco, pero considero que acabará en saco roto. Es un pensamiento feliz y tengo empatía por lo frustrante que es ser un artista cuyas habilidades no están a la altura de su visión. Pero se nos está pasando algo por alto. No sólo quieres contar tu historia y no sólo quieres contarla bien, quieres que importe el haberla contado. La IA te va a quitar esto a ti y a todo el mundo.
La ejecución de tu petulante “visión” a través de la IA va a garantizar que a nadie le importe tu historia y que será arrastrada por el agitado océano de desechos de la IA. Tu arte no está llamando la atención ahora. No va a atraer más atención cuando compita en un flujo sinfín de cómics, novelas, imágenes, películas, juegos y canciones dirigidos a un público específico que han sido generados automáticamente. Como ya he dicho, estas IAs no van a precisar de instrucciones humanas durante mucho tiempo y en su lugar reaccionarán automáticamente al flujo y reflujo de internet, las noticias, el mercado a tiempo real e incluso a conversaciones privadas. Después de todo, ya se lo hemos puesto todo a punto con nuestras interacciones. Ya nos sentimos un poco incómodos cuando el móvil te muestra un anuncio sobre algo que le mencionamos a un amigo mientras cenábamos, ¿pero qué va a pasar cuando te enseñe una película que haya hecho para ti sobre tu desengaño amoroso?¿Una canción sobre aquello que te dijo tu madre que te sentó mal?¿La versión completa de esa idea para un cómic sobre el que empezaste a documentarte? Te vendrán notificaciones diciéndote “¡Oye, échale un vistazo a estas mil imágenes ya terminadas de ese sueño tuyo!” Nuestros medios digitales ya poseen un acceso íntimo a toda esa información que define nuestro gusto. En cierto modo, ya vendimos el alma hace mucho tiempo.
Así que es posible que seas capaz de contar tu historia, a cambio se convertirá en algo totalmente irrelevante, esto hará que resientas el haber tenido tan siquiera la idea para empezar. Las historias no llegan a ser increíbles por el simple hecho de existir. Viven y mueren a través del intelecto y de los lazos humanos. La IA no va a “democratizar el arte” -este solo es uno de esos argumentos copipegados por los insulsos ejecutivos de marketing que te sirven una ración de tu propia perdición. En una democracia, tu voz cuenta. En un mundo inundado por el contenido de IA, tu voz no tiene la menor oportunidad de ser escuchada.
También quiero señalar que la gente que hace esto posible solo depende de que tú creas que ellos poseen la llave que conduce a tu visión artística. Necesitan que te sientas inútil y que pienses que has perdido la oportunidad de contar tu historia. Que ya estás demasiado mayor o que ya no dispones del tiempo ni de los recursos o la habilidad, o lo que sea, que vas a necesitar su producto. Así los apoyarás pecuniariamente y, mucho más importante, les ayudarás a cambiar la ley e influenciar la cultura para permitir la explotación rapiega a cielo abierto de toda obra creativa. Siempre se verán motivados a hacerte sentir solo, dependiente, incapaz y esclavo de sus caprichos monstruosos.
Y cuando lo tengan todo, os van a dejar con una mano delante y la otra detrás, por supuesto. No tienen motivo alguno por el que darte nada de esto gratis, no les importas. Puede que lo digan, pero eso no quiere decir que signifique nada. Una vez que consigan que te sea imposible ganarte la vida como artista, les hayas ayudado a cambiar la ley y te hayan condenado al ostracismo, haciendo que te enfrentaras a tus colegas, se lo llevarán todo y se lo venderán a Google, a Facebook, a Youtube y a todo el mundo, porque lo suyo es ganarles miles de millones sin darte nada. Se lo disteis todo gratis, insensatos.
Argumento: “Estas empresas no pueden manipular nuestro acceso a los sistemas, porque son proyectos de código abierto como Stable Diffusion. ¡Lo podría ejecutar en modo de desconexión en mi ordenador!”
Digamos que Stable Diffusion y Stability.AI no son el sujeto inamovible de esta conversación, y ciertamente es posible que tales nombres sean poco reconocibles para la gente que está escuchando esto incluso en un futuro cercano. Muchas de las compañías de IA se alzarán y se hundirán, algunas serán de código abierto y otras estarán tremendamente protegidas. Se desarrollará una amplia variedad de modelos empresariales, de licencia, de suscripción y modelos de entrenamiento asociados a la enorme cantidad de proyectos de IA que van a salir. Sólo porque el código de fuente sea de libre acceso en la versión actual de Stable Diffusion no significa que Stability.AI y otras empresas parecidas no vayan a cambiar sus tácticas más adelante. De hecho querría señalar que la versión que te puedes descargar ahora de Stable Diffusion y ejecutar desconectado se ve limitada por sus conjuntos de datos actuales. Es posible que puedas controlar algunos de sus parámetros, pero consumiría mucho tiempo y dinero reentrenar al modelo con un conjunto de datos actualizado, como ya he mencionado antes. Han sido necesarias una gran energía y muchas tarjetas gráficas para entrenar al modelo actual de Stable Diffusion y si quieres estar al día con esta tecnología, o vas a necesitar dedicar inmensos recursos en reentrenar el modelo o vas a tener que rendirte a estas empresas, que por supuesto es lo que quieren.
También resulta bastante inocente pensar que una compañía con fines de lucro como Stability.AI, que va tras una valoración de mil millones de dólares y que busca incluir a inversores adinerados en su junta directiva, con un administrador de fondos libres como director ejecutivo, va a querer darte porque sí tu juguete favorito gratis de forma indefinida. Imagina que siguieran ofreciendo versiones gratuitas, acabarían siendo como Facebook, Twitter, Instagram, etc., repleto de todos estos malos estímulos y de efectos que distorsionan el mundo que ya hemos visto en estos modelos.
Argumento - “¿Pues no es lo mismo lo que hace la gente con referencias que lo que hacen las IAs?”
Es el momento de volver a un análisis más profundo sobre los supuestos establecidos anteriormente en este vídeo. Despejando dudas, es un argumento relacionado con la práctica del uso de referencias y el arte de terceros para elaborar una imagen o que sirva de inspiración. Este argumento es de por sí confuso.
Primero: Imagina que la respuesta es que sí, la forma en la que una IA usa referencias es análoga a cómo la gente las usa, planteando la siguiente cuestión: ¿Por qué otorgarías el privilegio de esta tarea a máquinas que no sienten, en lugar de dársela a los humanos? Por el amor de Dios, estamos hablando de crear arte, no de ningún trabajo manual perturbador que la gente deteste. Es una de esas cosas que la gente disfruta haciendo. Cualquiera que lo mire desde el punto de vista humanista será capaz de ver que el hecho de crear y el resultado vienen a ser lo mismo y por ello crear arte debería ser exclusivo de la gente que lucha por beneficiarse de ello, que sea para la gente a la que le trae felicidad y satisfacción en vez de echárselo estúpidamente a algo insensible e inexistente que no puede disfrutar del fruto de su trabajo.
Segundo: No, la gente no hace el mismo arte usando referencias, las máquinas sí. La diferencia es que las máquinas pueden replicar exactamente sus referencias. Sí, claro, los artistas humanos consultan referencias, las recopilan, las combinan, las transforman y es cierto que a veces lo intentan lo mejor que pueden para copiar directamente, pero en la gran mayoría de los casos, no pueden replicar estas referencias de forma exacta.
Puedes observar tantos dibujos de Miguel Ángel como quieras, puedes colgar cientos de ellos en tu espacio de trabajo, aun así no vas a conseguir dibujar como él. Aunque lo calcaras no lo harías al nivel necesario para crear la duda sobre cuál es el original. Y si pudieras conseguirlo, casi seguro que eres un dibujante consumado que ha llegado ahí sudando la camiseta.
Las IAs no se ven equilibradas por esas restricciones. La IA puede conseguir perfectamente, digitalmente, reproducir, memorizar y crear un sobreajuste para cualquier efecto en el que se le entrene lo suficiente. Esto quiere decir que mientras que el ser humano invierte su esfuerzo más vehemente en recrear las mejores partes del trabajo de otro artista pudiendo resultar en una serie de deficiencias aceptables y agradables sorpresas, la IA puede llevar a cabo un perfecto robo a gran escala.
El humano se ve ennoblecido al intentar replicar una copia, al menos cuando se hace a mano y no copiando y pegando partes de una obra de arte digital. Porque con la mecánica de la ejecución manual, el sujeto mejora como artista a través de numerosos intentos de copia. Ejecutar una copia adecuada de una obra maestra está completamente fuera del alcance de un principiante y es irónicamente necesario una gran habilidad. Verdaderamente - y puede ser difícil de entender si llevas mucho sin esforzarte en mejorar tus habilidades- si consigues copiar un Vermeer bien, te lo has ganado.
Argumento- “La IA nunca podrá reemplazar el alma de un artista, ¡nunca será capaz de generar ideas únicas de la forma en la que lo hace una persona!”
En realidad este es un argumento más en pos de ignorar la IA en vez de aceptarla, pero es un argumento que sale con frecuencia y creo que merece la pena mencionarlo. Cuando pensamos en la “visión del artista” de esta forma, considero que la estamos elevando a una extraña posición. Con este argumento asumimos que nuestras ideas son como una manifestación divina, inalterada y nacidas de la casualidad. En realidad, nuestras ideas son complejas reacciones, tanto conscientes como inconscientes, nacidas de los incontables factores que conforman nuestra vida. Recuerda, las IAs acabarán reaccionando en algún momento a tantos factores como lo hacemos nosotros. Van a estar tomando las constantes en tiempo real del rendimiento de internet, de sus palabras clave, las de moda y las tendencias.
Y lo estarán evaluando simultáneamente con los “macrodatos” y con los datos individuales personalizados - tus gustos particulares, hábitos, preferencias e incluso estados de ánimo y salud física. Ya proveemos a las empresas con toda esta información en gran detalle. Las IAs te van a conocer muy íntimamente y en todo ello va incluida tu visión artística. Incluso si sus resultados son un tanto insípidos, mediocres o ininteligibles, las cantidades van a estar de su parte, no de la nuestra. Solamente con el volumen de su contribución se van a asegurar que ahí dentro, en algún lugar, va a haber algo por lo que te sientas atraído, algo que posiblemente ya hubieras pensado por tu cuenta si se te hubieran facilitado los mismos privilegios que a una IA.
Y si la calidad actual de lo que genera la IA sirve como ejemplo, podría ser menos mediocre de lo que cabría esperar. Navegar a través de la montaña de productos sin editar generados por la IA puede resultar a veces un tanto inquietante y confuso, pero hasta yo me veo parando a observar, asombrado, algunos de estos. De nuevo, esto ya viene a ser mucho considerando que estos sistemas se encuentran en su infancia.
Argumento: El problema con Dance Diffusion.
Existe un escandaloso doble estándar que radica en cómo estos sistemas manejan las artes visuales en comparación a cómo se hace con otras industrias creativas. Por ejemplo el más que evidente Dance Diffusion, la próxima herramienta musical de IA que va a lanzar un equipo que ya trabaja en Stability.AI, los creadores del modelo de texto a imagen de Stable Diffusion. Permíteme que te lea este artículo en el que se describe cómo se entrena a Dance Diffusion:
“Dance Diffusion también se basa en conjuntos de datos compuestos en su totalidad por música y muestras de audio libres de derechos de autor y que han sido otorgadas voluntariamente. Como los modelos de difusión tienden a memorizar y a crear sobreajustes, si lanzáramos un modelo entrenado con música que posea derechos de autor, podría acarrear problemas legales. Para honrar la propiedad intelectual de los artistas al mismo tiempo que respetamos los derechos de autor de la industria de la música, que son normalmente estrictos, era nuestro deber mantener cualquier tipo de material con derechos de autor fuera de nuestros conjuntos de entrenamiento.”
Si crees que es imposible que hayas escuchado lo que acabas de escuchar, ponlo de nuevo. El hecho de que tremendo doble estándar exista entre los productos de una sola empresa de IA hace que sea difícil imaginarse cualquier otra explicación que no sea la de la mala fé contra los artistas visuales y la abominable creencia de que sea correcto pisotearlos especialmente a ellos porque suelen defenderse y litigar menos de lo que suele hacerse en otras industrias, véase, la de la música. Me gustaría que cambiaras la palabra “música” en ese párrafo con la palabra “arte”. ¿De verdad estaría tan fuera de sitio? ¿De verdad implica que soy un ludita muerto de miedo que se resiste al cambio? Lo dudo mucho. Diría que la gran mayoría de la gente en su sano juicio verán que “honrar la propiedad intelectual de los artistas” es de lógica que incluya a los artistas visuales, no sólo a los músicos.
Ahora quiero que te imagines que nos hallamos en el pasado, pongamos hace 10 años, donde los generadores de texto a imagen aún no habían llegado. ¿Qué pasaría si te enteraras de que alguien estaba planteándose el sacar uno de esos sistemas y se comprometieran a seguir estas pautas tan juiciosa que acabamos de leer? Lo va a hacer gracias a las obras de arte libres de derecho de autor que se les otorgará voluntariamente. Me imagino que te pensarás que eso sería lo más sensato y lógico para crear y lanzar uno de estos sistemas, ¿verdad? Ahora imagina que después de haber escuchado esto, alguien saca adelante la idea de peinar internet para sacar miles de millones de imágenes y traga millones de obras producidas con el sudor y la sangre de los artistas sin su consentimiento, sin compensación alguna y sin ninguna posibilidad de poder retirar su trabajo del modelo una vez se lo haya entrenado con él. ¿No crees que tal plan resultaría claramente descarriado y poco ético desde tu aventajada posición en esa línea temporal, anterior al lanzamiento de tal aberración de programa?
El hecho de que estemos viviendo en una realidad en la que alguien se ha atrevido a hacer esto último sin pedir ningún permiso, ni ofreciendo compensaciones a aquellos que originalmente habían creado las imágenes con las que se ha entrenado al sistema, y luego se apresuren a lanzarlo antes de que nadie pudiera estar al tanto de sus fechorías, no hace que sea aún menos ético o simplemente chiflado. Considero que muchas de las suposiciones más inocentes sobre la IA se podrán desvelar si nos imaginamos cómo estos sistemas tendrían que haber sido manejados, en una realidad donde hubiéramos podido estudiar su potencial seriamente antes de que hubieran sido publicados. Por desgracia no hemos hecho nada porque la mayoría de la gente no pensó que pudieran llegar a ser tan buenos como lo son ahora, y si lo hubieran sabido, probablemente no hubieran pensado que fuera tan rápido.
Pero que ya hayamos sido engañados no quiere decir que tengamos que seguir cediendo tontamente a estas incipientes IAs. Sentaremos un precedente muy peligroso si no disputamos y desmantelamos estos sistemas tan injustos. Nuevas IAs seguirán surgiendo rápidamente y las bajezas que se multiplican debido a su naturaleza se nos echarán encima. No queremos que la gente que está haciendo estos programas piense que saldrán indemnes tras infringir los derechos de los artistas y que no escudriñaremos los sistemas, que no inspeccionaremos sus modelos empresariales y que no estaremos en general dispuestos a luchar por nosotros mismos.
Conclusión
Los sistemas de IA van a seguir retándonos. No sólo en el ambiente artístico, sino en todos los aspectos de nuestra vida, se harán notar tanto en lo digital como en lo físico y se apropiarán de todo tipo de trabajo, del creativo e incluso del mundano que se dejó típicamente para los humanos. Allá donde aparezcan y cualquiera que sea la tarea que desarrollen, antes de que simplemente te dés la vuelta y rindas todo el esfuerzo de una vida a la IA, pregúntate: ¿Se me está privando de un trabajo que me gusta hacer? ¿De verdad la vida tiene un superávit de alegría que hace que debamos dejar a las máquinas automatizar algo que nos gusta? ¿De verdad tenemos alguna buena razón para dejar que nos quiten un trabajo o una afición que nos es aspiracional y divertido en vez de que hagan una tarea rutinaria y miserable? ¿O simplemente nos estamos inventando razones por las que dejarles hacer eso, porque no queremos tomar la responsabilidad de defendernos, algo de lo que los artistas suelen huir?
No debemos permitir que los desarrolladores de IA, con todas sus veladas técnicas, nos desdeñen hasta llegar a sustituirnos por completo. Debemos contraatacar, si no, vamos a sentar un precedente peligroso para todas las IA que están por venir.
La gente a la que se le incentiva fuertemente a proteger la opinión pública de estos sistemas nos acusarán de ser luditas, de no ser capaz de adaptarnos y de percibir catastróficas consecuencias de su mala conducta. No dejes que te hipnoticen con sus absurdos cantos, siempre debes recordar que no son artistas y no es su trabajo el que está en el conjunto de datos. Quieren controlar todo esto a nivel emocional, haciendo que parezcas un chillón y un quejica mientras ellos se muestran como unos seres tranquilos, inteligentes y progresistas.
Quieren que aceptes sin preguntas que todo lo que hagas y compartas será automáticamente arrojado al vientre de su producto de lucro. En el momento en el que estoy escribiendo esto, todavía no hay una forma en la que uno se pueda separar de estos sistemas, aunque hayan algunos que parecen que van a ofrecer la opción de que no te incluyan en el futuro. Mientras escribo el guión para este vídeo, Stable Diffusion ya ha anunciado que están escuchando las críticas y están desarrollando internamente una herramienta que permitirá a los artistas no ser incluidos en el entrenamiento. Suena como un paso en la dirección correcta, pero en ese caso querría señalar un par de cosas: 1, la crítica era necesaria para que este cambio se produjera. 2, no existe razón alguna por la que confiar en que la próxima compañía, que aparezca con un entrenamiento similar y lance su modelo, vaya a dar la opción de que no consientas. Y 3, la versión de Stable Diffusion que ya han lanzado bajo código abierto, va a estar ahí para siempre y se la va a entrenar con estos conjuntos de datos sin consentimiento y de forma descontrolada. Si tienes la opción de quedarte fuera, no se te incluirá en versiones posteriores de Stable Diffusion, pero seguirás en las previas. E imagino que mucha gente no querrá que se la excluya hasta que descubran que ya se ha incluído su obra en un modelo. Llegados a esto, si el lanzamiento es de código abierto, ya es demasiado tarde para ti. Es más, debes saber que vas a tener que hacerlo por cada producto de recopilación de datos que hay ahí fuera. Sólo los más listillos van a conseguir rescatar su obra mientras que devoran al resto. Estas empresas te ofrecerán poder excluirte esperando que no te des ni cuenta. Para empezar la opción debería ser que consientas.
Como ya he dicho al principio de este ensayo, no es difícil imaginarse un generador de texto a imagen que sea justo y equitativo. Lo cual hace que parezca que lo que ya han hecho - siendo muy bondadosos con esta interpretación- se defina como desconsiderado. Se podría erigir en una fundación de dominio público con imágenes bajo licencia Creative Commons, embellecerlo con imágenes que tu compañía cree de forma interna, hacer encargos a artistas que creen imágenes para que lo entrene de tu parte o compensar a los artistas que den su consentimiento para añadir sus imágenes en el conjunto de datos. Incluso otorgarles regalías cada vez que sus imágenes o su nombre se usen para generar un resultado. No veo nada malo en un modelo así e imagino que sería fascinante y efectivo, y aun así presentaría algunas limitaciones completamente sensatas que darían mucho espacio para que los seres humanos que tan duro trabajan sigan creando arte. También creo que serían muchos los artistas que felizmente consentirían añadir sus imágenes en tal proyecto. ¡Somos artistas! Nos encanta lo nuevo, lo extraño y lo maravilloso. Por más que a estas empresas de IA se les antoje que se nos vea como a unos aburridos mojigatos del pasado, que la verdad es algo un poco pasado de rosca teniendo en cuenta nuestro grupo demográfico. A muchos de nosotros nos encanta la tecnología, tenemos una larga lista de credenciales que respaldan lo geek que somos, siempre estamos probando cosas nuevas, experimentando y nos entusiasman estos extraños giros que pasan en el mundo. Considero que si alguien hiciera un modelo como este basado en el consentimiento, incluso yo les incluiría mis imágenes. Pero de momento, por favor, no nos dejemos llevar por la corriente y pensémoslo con detenimiento. Terminemos con este robo a gran escala de nuestro trabajo creativo. Dejaré enlaces en la descripción que os llevarán a asociaciones que están intentando organizarse con respecto a estos problemas, fuentes y vídeos informativos sobre el estado actual en el que se hallan estos sistemas. Te recomiendo encarecidamente que te documentes más sobre cómo estos sistemas funcionan y cómo las compañías están controlando la narrativa.
Links:
(Inglés)
Sigue a la Concept Art Association para más noticias sobre cómo organizarse contra las IAs y ve su vídeo más reciente sobre la AI town hall
Una página que investiga los conjuntos de datos de LAION para comprobar si tú o tu arte están ahí. Nótese que esta página te deja inscribirte para los próximas listas de no consentimiento del producto- No tengo ni idea de en qué resultará la naturaleza de ese producto y recomiendo precaución: https://haveibeentrained.com/
Imagen te cuenta cómo se entrenan sus conjuntos de datos en su versión “sin madurar” y contiene “un amplio rango de contenido inapropiado, incluidos pornografía, insultos racistas y estereotipos sociales dañinos”. Esta es otra de esas páginas en las que deberías lanzar la búsqueda de “artista” (cntrl+f): https://imagen.research.google/
Quiero dar las gracias en especial a mi mujer por su ayuda editando el guión, a mis mecenas por su apoyo, a mis amigos en Discord por los links, información especializada y sus primeras reacciones y a todos aquellos que se compran el curso.
Hice el dibujo que sale en este vídeo, “Prey For A Spiritual Creature” (“Presa de criatura espiritual”) en papel bristol de Strathmore 18”x24”.