El fin del arte: razonamiento contra las imágenes generadas en IA 

 Steven Zapata, Noviembre 2022

Introducción-

Me deja perplejo que tenga que decir las cosas que voy a decir. Que tenga que lidiar oficialmente con Inteligencias Artificiales que crean arte, es un tema tan extraño, tan increíblemente de ciencia ficción que a veces me cuesta tomármelo en serio. Por desgracia he de tomármelo en serio. Las IAs de arte ya están aquí y considero que cuesta ignorar las lúgubres sombras que arrojan sobre el discurso artístico y sobre las mentes de los estudiantes.

He estructurado este ensayo como una serie de contraargumentos para refutar algunas de las réplicas más comunes en arte generado por IA. Después, pienso atarte a un poste y fustigarte públicamente por esa poca resistencia que muestras. Con eso, espero capturar el alcance de lo absurda que es esta cuestión. Quiero dejar claro que los siguientes argumentos no son sobre si el "arte de la IA" es o no es "arte". No tengo ningún reparo en decir que es arte. Es algo que no aporta gran cosa a este argumento. No hace falta decir que los seres humanos se pueden expresar a través de cualquier medio y, siempre que implique expresarse, cualquiera tendrá la sensación de que su obra es arte y se sentirá como un artista. Pero los siguientes argumentos no tratan sobre eso. Tratan sobre lo defectuoso, lo inmoral y lo engañoso que es el ámbito en el que se hallan los programas de IA. Un ámbito que discutiré se considera como en total control y promete encauzarlo todo en una dirección nada artística. No es tan difícil imaginarse un sistema de IA ético y consensual. Lo que hace que resulte más humillante que las que se están difundiendo ahora no lo sean en absoluto.

También quiero añadir que como una persona que existe aquí y ahora, tengo una curiosidad mórbida, como cualquiera, sobre la capacidad creativa de estos sistemas y estoy seguro de que las futuras muestras que nos enseñe la IA me llegarán a emocionar increíblemente. Sin embargo, que el arte generado por la IA presente posibilidades interesantes no quiere decir que la horrible negligencia y los valores antihumanistas de los sistemas actuales no sean reprochables. 

He de admitir que me aventuraré con algunas predicciones en esta conversación, pero considerando el tema en sí, creo que es inevitable, necesario y deseable. Muchos de nosotros habríamos dicho hace diez años sobre lo que está pasando ahora que sería una fantasía imposible. Y posiblemente no les hubiera sido tan fácil emboscarnos y desarmarnos si nos hubiéramos propuesto imaginarnos un poquito el futuro. He escuchado argumentos que pretenden terminar este debate sin tan siquiera empezarlo. Principalmente se manifiestan como afirmaciones técnicas en las que dicen que estos programas que transforman texto en imagen no pueden mejorar, basándose en la naturaleza de su diseño y que ya estamos viendo su desarrollo completo. No soy experto en aprendizaje automatizado, ni programador, ni ingeniero informático, pero he de decir que me es difícil creerlo, porque ya han mejorado desde anteriores versiones. No obstante, quiero dejar muy claro que incluso si no te trasladas al futuro y te quedas con el estado actual del arte, la forma en la que se entrenan a estas IAs, en la que se publican, se usan y se promocionan ahora mismo en nuestro presente ya es extremadamente preocupante. Si permitimos que estas IAs se extiendan sin control, como lo están haciendo hasta ahora, se va a asentar un precedente peligroso que demostrará que los artistas no están por defenderse mientras roban y explotan su trabajo.

Y no albergo duda alguna de que esto es lo que está pasando. En su estado actual y a lo largo de su trayectoria hasta el momento, estos sistemas se basan fuertemente en la recopilación oportunista y la explotación de grandes cantidades de trabajo creativo perteneciente a muchísima gente que ni lo ha consentido ni se le ha compensado por ello. Mostrándole a las compañías, inclusive las que están por llegar, que los artistas van a permitirlo con poca resistencia. Es un mal presagio para la industria comercial, para los artistas de bellas artes, los aficionados... para todos. Y me quedo perplejo al observar que mis amigos y compañeros se van metiendo en la boca del lobo y que parece un lugar hospitalario, porque han visto que hay algo de comida entre los dientes.

Soy tan consciente como tú de que la errónea certeza sobre enormes eventos tecnológicos como este no importan mucho en el turbulento remolino que es la historia. Pero hemos de reconocer que arrodillarse ante este brutal hecho no quiere decir que sea inteligente. Más bien se nos verá como callados y dóciles y esto es lo último que nos faltaba a los artistas justo ahora. Debemos estar preparados para defendernos, entre nosotros y a nuestra obra, incluso cuando estas compañías de IA intenten dejarnos como unos quejicas desagradecidos.

No dejes que se hagan con la narrativa y te encandilen hacia la conformidad. ¡Esto debería indignarnos! Estos programas están recopilando el trabajo de los artistas y usándolo con fines comerciales, que suelen esconder tras la cortina de humo a la que denominan sin ánimo de lucro, alegando que lo suyo es la investigación académica y haciendo que sea difícil atacarlos. Dependen de la docilidad de los artistas visuales y hay ejemplos en los que tratan con otras industrias más propensas al litigio de manera muy distinta, exhibiendo así una escandalosa doble moral. Todo vídeo, publicación o conversación que veo que cuelgan mis colegas de profesión de forma positivamente dócil sobre este tema del arte generado por IA me revuelve las tripas y me da vergüenza ajena. Me saca de mis casillas ver que aceptan tranquilamente lo que estos programas están haciendo, especialmente cuando ya los han desarmado con las mismas patrañas en muchos otros ámbitos. Siempre nos andamos burlando cuando vemos este mismo antihumanismo en las redes sociales, en el trabajo, etcétera. ¿Cuántas veces hemos de tropezar con la misma piedra? ¿Es que lo vamos a abandonar todo?

Da igual lo que veas que hagan tus amigos, lo que escuches de aquellos que están desesperados y asustados, no sigas al rebaño conformista.

{Fragmento extra en Youtube}
Las gigantescas empresas que diseñan y lanzan estos sistemas están manipulando la narrativa y dependen de nuestro ritual suicida. Tal y como ha pasado en previos encontronazos, van a dejar que te encargues de luchar su guerra y que nos enfrentemos entre nosotros como buitres lanzándose sobre carroña. Van a hacer que te sientas cómodo con el canibalismo artístico a una escala sin precedentes. Pero este no es el momento de que los artistas nos debamos separar, debemos mantener una conversación honesta, defendernos los unos a los otros y mostrar esta información en los ámbitos artísticos.
{Fin del fragmento extra en Youtube}

Argumento- “La IA sólo toma referencias de internet de la misma forma en la que lo hacen los artistas.”

Son muchas las suposiciones dañinas que se encuentran en este argumento que pienso retomar luego. He decidido empezar con esta, porque me permite explicar el conjunto de datos que se usan para entrenar a estos sistemas. Es posible que la comunidad artística y en las noticias te hayan dado a conocer muchas de estas herramientas de IA de texto a imagen --MidJourney, DALL-E, Stable Diffusion, Imagen, por mencionar algunas. Pero es posible que no hayas escuchado sobre sus correspondientes conjuntos de datos, los cuales son un "producto" por separado que a veces son de propiedad y a veces se comparten entre diferentes sistemas que generan arte de texto a imagen.

Usemos como ejemplo un sistema muy famoso, LAION, uno de los conjuntos de datos que fueron recopilados para entrenar a las actuales versiones de Stable Diffusion e Imagen, de Google. Una de sus ofertas, LAION 5B, es una recopilación de 5 mil millones de URLs de imágenes y texto descriptivo que señalan y describen imágenes por toda la red. Cuando un modelo como el de Stable Diffusion se le "entrena" para hacer su trabajo, un proceso caro que ansía fuentes cuando se usa un conjunto de datos tan vasto, ejecuta un proceso matemático en particular que solidifica una conexión entre imagen y texto. Los detalles del proceso que sigue Stable Diffusion, o el de cualquier otro modelo, no es algo en lo que nos queramos entretener, ya que se desarrollarán nuevos métodos, nacerán nuevas compañías y la tecnología cambiará. Lo importante aquí es que la imagen de entrada es la que define el potencial del modelo. El rendimiento del modelo no llegaría a ser posible sin todos los datos que se le introducen, datos cuya mayoría poseen derechos de autor. Y una vez que un modelo ha sido entrenado con un conjunto de imágenes, modificarlo se torna difícil. Si quieres cambiar el conjunto de datos y actualizar el modelo, vas a tener que volver a entrenarlo desde el principio con el conjunto de datos modificado, al menos con las técnicas más extendidas ahora.

Esto es lo que pasa con el festín de imágenes con la que se alimenta al conjunto de datos: hay de todo ahí metido. Puede que esté tu arte, fotos de tu cara también. Se han encontrado fotos médicas privadas ahí dentro. Eso es porque a las imágenes se las encuentra y se las cataloga indiscriminadamente, y todo ese montón se incluye a la colección como una maraña laberíntica que navegar y entender. Una enorme cantidad de esas imágenes tienen derechos de autor. Que quede claro, tú definitivamente no tendrías derecho a copiar y pegar cualquiera de ellas, ni tan siquiera en tu blog personal, sin meterte en un problema de índole legal.

¿Pero entonces cómo es que ellos sí pueden incluirlos en sus modelos? La clave está en las organizaciones. LAION 5B se difunde gracias a LAION, una organización sin ánimo de lucro alemana, mientras que las imágenes en sí son recopiladas por otra organización sin ánimo de lucro, Common Crawl. Dependiendo de dónde estén ubicadas, estas empresas, que están organizadas como si no tuvieran fines lucrativos y que sí funcionan con fines de investigación, se les otorgan exenciones legales privilegiadas y no serán declaradas culpables de recopilar y utilizar lo que son datos protegidos por derechos de autor.

El problema es que los conjuntos de datos recopilados bajo estas exenciones están alimentando actividades comerciales con fines de lucro como Stable Diffusion. ¿Y no sabrás por casualidad quiénes financiaron la gran mayoría de la capacidad de procesamiento de LAION para crear este conjunto de datos? Exacto, Stability.AI, los creadores de Stable Diffusion. A LAION se lo menciona justo donde el resto de esta colección de productos en su web. Así que esta supuesta compañía de estudio de datos sin fin lucrativo y legalmente privilegiada está siendo usada por una empresa con ánimo de lucro que actualmente posee una valoración de mil millones de dólares en su producto estrella. Tiene pinta de ser una violación directa del espíritu de estos privilegios de investigación. Es una práctica que se está extendiendo de forma normal en IA, son complejos caparazones que protegen conjuntos de empresas con y sin fin de lucro, haciendo que sea complicado señalar dónde se está desarrollando cualquier irregularidad. El objetivo es evitar cualquier responsabilidad y obligación legal a través de un complejo blanqueamiento de datos cuya legalidad afirmarán, pero a la que todos le estamos viendo el plumero.

Otro ejemplo de este modelo de responsabilidad evasiva es el desarrollador de IA de texto a imagen DALL-E, denominado "OpenAI" el cual se basa en la sociedad limitada OpenAI LP y su compañía matriz, sin fin de lucro, Open AI Inc.

¿Todo esto te parece un lío? Tiene sentido, porque lo es, y lo han maquinado todo ellos mismos. Permíteme que te lea lo que escribieron sobre esto en el blog de la empresa:

"Queremos incrementar nuestra capacidad de recaudar capital a la par que cumplimos con nuestra misión y ninguna estructura legal preexistente de la que sepamos logra el equilibrio adecuado. Nuestra solución es la creación de OpenAI LP como un híbrido entre empresa con y sin fin de lucro, a la que llamamos empresa de beneficio limitado”.

Pues qué pena que ninguna estructura legal preexistente les funcionara, ¿no? Pobrecillos. Al menos tuvieron las narices de inventarse su propia estructura legal, permitiéndoles ganar tanto dinero como sea posible mientras reclaman a la vez rebajas fiscales, privilegios legales y la nube los cubre como una organización sin ánimo de lucro que recopila datos con fines de "investigación". Y fueron lo suficientemente amables como para ponerle nombre también, así si a cualquier otra compañía le interesa reproducir esta locura, ya pueden señalar un precedente con autoría. Si te quieres echar unas risas bien amargas, te animo a que busques “las mayúsculas” con las que han decidido teclear lo de empresa de “beneficio limitado”. 

Esto que se sacan de la manga es el tipo de truco que me gustaría señalar. Todo este debate se ve enterrado por las mismas personas que se están beneficiando de estos sistemas. Estas preocupaciones reales sobre la IA están siendo acalladas con argumentos incongruentes sobre puritanismo tecnológico y la naturaleza del arte y el progreso. Muchos de estos "argumentos" no tienen sustancia alguna, simplemente alaban las virtudes de tener una mentalidad abierta sobre el utopismo tecnológico en vez de centrarse en las implicaciones éticas y legales de la cuestión en sí y corcovean bajo las razonables riendas con las que deberíamos dirigir estos sistemas. Nótese también que algunas IAs, como MidJourney, según voy escribiendo, no han publicado ningún tipo de información sobre los conjuntos de datos que usaron como entrenamiento, vienen a ser cuartos oscuros. Y ya supongo que más compañías seguirán el mismo camino una vez que sepan lo molesto que le resultan sus conjuntos de datos a un público informado.

Por lo tanto, no, las IAs no recopilan referencias de internet igual que los artistas. Y las están usando de una forma en la que a ti como a cualquier persona normal no te estaría permitido. No te brindarían los privilegios legales de una investigación sin fin lucrativo cuando se trata de recopilar y usar obras con derechos de autor sin permiso. Si se tratara de ti, por supuesto, serías sancionado rápidamente y de modo sumario por cualquier infracción como esta.

Argumento - “La IA es tan solo una nueva herramienta.”

Este argumento surgió por falta de imaginación. Como artista, por supuestísimo, esto debería avergonzarte. Los programas de IA puede que sean una herramienta ahora mismo, en esta etapa temprana, pero pensar que se van a quedar así requiere una ignorancia deliberada sobre la herramienta que estás usando y su ámbito. No están hechas para ser herramientas para artistas, son sustitutos de artistas. Y se los anuncia como tal. Mira con qué palabras te lo intentan vender (estos son extractos del comunicado de Stable Diffusion para investigadores): "Stable Diffusion es un modelo para pasar de texto a imagen que permitirá a miles de millones de personas crear arte increíble en cuestión de segundos". Aquí tienes otro. "Puedes ver en esta página algunos de los increíbles resultados que ha generado este modelo sin tratar previa o posteriormente."

Fíjate en cómo lo dicen. No quieren un futuro en el que necesiten retocar estas imágenes después de haberlas generado. No tienen ningún interés en dejar cualquier tarea de la que se encargue el artista. No pintas nada aquí, incluso habiendo sido tu arte el que ha entrenado a la IA. Deberías hacer una búsqueda "ctrl+f" en la página de la que he sacado todas esas frases con la palabra "artista". Cero resultados. Quieren venderte la promesa de que cualquiera sin experiencia puede crear desde el primer día la misma imagen que le llevaría a alguien hacer con años de experiencia. Basándose en su modelo empresarial, cuanto menos necesiten la implicación de un artista, más exitoso y atractivo es su producto.

Que logren o no conseguir su objetivo de desarrollar una IA que no necesite intervención artística es en realidad lo de menos, porque lo van a anunciar como si hubieran alcanzado esa meta tan sobradamente que cambiará drásticamente la visión mundial que se tiene del arte. Invertirán millones en publicitar al ciudadano de a pie que crear imágenes increíbles, vídeos y lo que sea está solo a un click. Con esto dicho, creo que muy probablemente lo consigan. La mayoría de lo que se puede hacer con estos sistemas en sus primeras versiones ya supera lo "suficientemente bueno". No retocarás estas imágenes para mejorarlas o componerlas por mucho tiempo. Y cuidado con aquellos en estas empresas que sólo admitirán que estas son herramientas para artistas cuando se enfrenten a artistas, mientras que lo publicitan incesantemente a todos los demás como una vía fácil e inmediata de generar increíble arte con el mínimo esfuerzo.

La típica contestación en este punto es que incluso si las imágenes no necesitan ningún retoque, un resultado deseable deberá ser igualmente seleccionado por alguien. Si antes te falló la imaginación y ahora te está pasando otra vez, deberías estar doblemente avergonzado. El futuro de estas IAs no planea tener humanos tecleándole las instrucciones. Soñar con un trabajo de adivino de la IA, en el que se engatusa cariñosamente para extraer de la máquina la imagen más preciosa posible, es de ser miope. A las IAs se les da tan bien generar secuencias de texto como generar imágenes. Con las prisas de querer describir una imagen se te pasó por alto que estabas entrenando a la siguiente etapa de la IA, la que se sabe qué le gusta a millones de personas con el mejor gusto del planeta. Se ve claramente en programas como MidJourney, que guarda pública y permanentemente cada pieza que genera, incluyendo las descripciones que se usan. Cuando introduces una descripción, le estás gritando tu esencia al nuevo conjunto de datos de la AI.

Una vez que el conjunto de datos alcance su masa crítica, no necesitarán de nadie para decirles qué hacer. Estos sistemas, posiblemente un sin fin, se ejecutarán en modo automático. Sencillamente repetirán lo que han aprendido sobre lo que le interesa ver a la gente, combinándolo con análisis de red en tiempo real y otros sistemas, empezarán a sacar a lo bestia obras sin fin, transformando el mercado del arte por completo. La ingente cantidad de material permitirá a las IAs y a sus entrenadores manipular el mercado, inundando las redes con imágenes cuando quieran que algo desaparezca y ralentizándo la salida de material cuando quieran llamar la atención sobre algo. Tendríamos suerte si esto sólo afectara al sector comercial del arte, pero el abaratamiento del mercado al por mayor y el silenciamiento del arte parece que afectará cualquier sector, tanto el comercial, como el de los aficionados, bellas artes... a todo. Lo veo como una supernova de mediocre emisión inhumana, el "Mega-Feed" : La versión ad absurdum de los feeds bastante más flojos con los que nos topamos día a día. 

Pues va a ser que al final la herramienta eras tú. Te han usado para enseñar a la IA, la mejor parte de esta creación, mientras haces click en los resultados que más te gustan entre otros tantos resultados grotescos. Le enseñas las palabras claves y las que están de moda con respecto a estilos y criterios de acabado que son de mayor interés. Y cada vez que vuelves a ella con algo nuevo, va a tomar nota de tu originalidad, por supuesto, a darte un par de palmaditas en la espalda, a destilar sus siniestras maquinaciones y redistribuir hasta el infinito lo que sea que hubiera de creativo en tu semilla.

Este contraargumento también es una respuesta a aquellos que nos acusan a mí y a gente que piensa como yo de ser "luditas", que solamente somos unos tecnófobos cuando en realidad deberíamos aceptar con los brazos abiertos a estas herramientas. Es absurdo calificar a alguien como yo de ludita. Nunca me he opuesto a nuevas herramientas. Me he pasado toda mi vida profesional probando con alegría cada herramienta nueva que de verdad lo es. Empecé con el arte digital en el Paint antes de los 10, hice mis primeros modelados 3D en Bryce 3D a los 11, llevo usando Photoshop desde los 13, hice mis primeras animaciones 3D en Maya a los 15, he aprendido a usar Modo, zBrush, Sketchup, Blender y otros programas 3D de los cuales ni me acuerdo. Tengo una impresora 3D, me compré un casco de realidad virtual para modelar en realidad virtual. Emito arte en YouTube y llevo una empresa online, Dios santo. No uso ninguna de estas herramientas a disgusto, me he sentido feliz de poder aprender a manejarlas y jugar con ellas. Sólo quiero más de esto y no menos. Y sé que muchos de los artistas que se resisten a la IA son como yo, amantes voraces del progreso y nuevas formas de creación. No, no soy un ludita, no le tengo miedo a las nuevas herramientas. Puedo distinguir entre lo que es simplemente una herramienta y lo que es un sustituto.

Si hubieras tenido experiencia trabajando en una cadena de montaje de automóviles, te habrías equivocado diciendo que cada llave, taladro y remachadora que te ponían en la mano era un sustituto. Pero en el día en que la puerta automática ascendió y metieron en la nave un brazo mecánico, habrías estado en lo cierto. Algunas cosas son herramientas y algunas vienen a sustituirte. Y gritar "herramienta" una y otra vez no va a cambiar su naturaleza.

Argumento - “Los artistas sólo tendrán que centrarse en contar historias a través de videojuegos, animaciones y cómics.”

Ya he mencionado el mayor problema de este argumento: que las IAs van a ser bien capaces de funcionar automáticamente y que se les va a dar bien contar historias de la misma forma que ya están generando imágenes y vídeos. Generarán novelas, ensayos y guiones en cantidades que podrían llenar la Biblioteca de Babel, con cada obra siendo un conglomerado entre fragmentos de citas y hurtos sin atribuir. Todo este texto generado automáticamente puede procesarlo la IA de imagen y vídeo para generar medios de largo metraje y así se completa el ciclo, autonomía sin humanos.

Las empresas se abalanzarán sobre estos sistemas, por supuesto, son predecibles, consistentes y carecen del alto nivel de mantenimiento que requiere el sistema visceral y veleidoso del artista humano. Producirán un chorro sin fin de toda película, programa de televisión, juego, noticias e imagen que te puedas imaginar así como cualquier variación que se te ocurra de cada uno de estos.

Inundarán por completo la historia global y el futuro se verá abrumadoramente escrito por fantasmas. El "anime" que soñabas con crear desde que tenías 8 años, por el cual serías capaz de abandonar todo arte para poder producirlo, obtendrá la atención que este entorno le brinda: ninguna. Y cuando el proyecto de tus sueños sea regurgitado por una IA en cuestión de segundos no reciba ninguna atención, apoyo o dinero, te vas a quedar ahí pensando que te lo mereces. Ni tu madre lo va a poder encontrar en la imparable corriente del Mega-Feed. Esto no sería un problema en sí, no ibas a hacer nada igualmente, sin embargo sí que vas a destrozarle el mercado a aquellos que sí se esfuerzan por sacar sus proyectos adelante. No vas a ganar nada y encima vas a dañar a tus amigos y colegas.

La idea de que todo el mundo tendrá el poder de contar su propia historia es uno de los pocos argumentos a favor de la IA que no me parece mal. Habría que matizarlo un poco, pero considero que acabará en saco roto. Es un pensamiento feliz y tengo empatía por lo frustrante que es ser un artista cuyas habilidades no están a la altura de su visión. Pero se nos está pasando algo por alto. No sólo quieres contar tu historia y no sólo quieres contarla bien, quieres que importe el haberla contado. La IA te va a quitar esto a ti y a todo el mundo.

La ejecución de tu petulante “visión” a través de la IA va a garantizar que a nadie le importe tu historia y que será arrastrada por el agitado océano de desechos de la IA. Tu arte no está llamando la atención ahora. No va a atraer más atención cuando compita en un flujo sinfín de cómics, novelas, imágenes, películas, juegos y canciones dirigidos a un público específico que han sido generados automáticamente. Como ya he dicho, estas IAs no van a precisar de instrucciones humanas durante mucho tiempo y en su lugar reaccionarán automáticamente al flujo y reflujo de internet, las noticias, el mercado a tiempo real e incluso a conversaciones privadas. Después de todo, ya se lo hemos puesto todo a punto con nuestras interacciones. Ya nos sentimos un poco incómodos cuando el móvil te muestra un anuncio sobre algo que le mencionamos a un amigo mientras cenábamos, ¿pero qué va a pasar cuando te enseñe una película que haya hecho para ti sobre tu desengaño amoroso?¿Una canción sobre aquello que te dijo tu madre que te sentó mal?¿La versión completa de esa idea para un cómic sobre el que empezaste a documentarte? Te vendrán notificaciones diciéndote “¡Oye, échale un vistazo a estas mil imágenes ya terminadas de ese sueño tuyo!” Nuestros medios digitales ya poseen un acceso íntimo a toda esa información que define nuestro gusto. En cierto modo, ya vendimos el alma hace mucho tiempo.

Así que es posible que seas capaz de contar tu historia, a cambio se convertirá en algo totalmente irrelevante, esto hará que resientas el haber tenido tan siquiera la idea para empezar. Las historias no llegan a ser increíbles por el simple hecho de existir. Viven y mueren a través del intelecto y de los lazos humanos. La IA no va a “democratizar el arte” -este solo es uno de esos argumentos copipegados por los insulsos ejecutivos de marketing que te sirven una ración de tu propia perdición. En una democracia, tu voz cuenta. En un mundo inundado por el contenido de IA, tu voz no tiene la menor oportunidad de ser escuchada. 

También quiero señalar que la gente que hace esto posible solo depende de que tú creas que ellos poseen la llave que conduce a tu visión artística. Necesitan que te sientas inútil y que pienses que has perdido la oportunidad de contar tu historia. Que ya estás demasiado mayor o que ya no dispones del tiempo ni de los recursos o la habilidad, o lo que sea, que vas a necesitar su producto. Así los apoyarás pecuniariamente y, mucho más importante, les ayudarás a cambiar la ley e influenciar la cultura para permitir la explotación rapiega a cielo abierto de toda obra creativa. Siempre se verán motivados a hacerte sentir solo, dependiente, incapaz y esclavo de sus caprichos monstruosos.

Y cuando lo tengan todo, os van a dejar con una mano delante y la otra detrás, por supuesto. No tienen motivo alguno por el que darte nada de esto gratis, no les importas. Puede que lo digan, pero eso no quiere decir que signifique nada. Una vez que consigan que te sea imposible ganarte la vida como artista, les hayas ayudado a cambiar la ley y te hayan condenado al ostracismo, haciendo que te enfrentaras a tus colegas, se lo llevarán todo y se lo venderán a Google, a Facebook, a Youtube y a todo el mundo, porque lo suyo es ganarles miles de millones sin darte nada. Se lo disteis todo gratis, insensatos.

Argumento: “Estas empresas no pueden manipular nuestro acceso a los sistemas, porque son proyectos de código abierto como Stable Diffusion. ¡Lo podría ejecutar en modo de desconexión en mi ordenador!”

Digamos que Stable Diffusion y Stability.AI no son el sujeto inamovible de esta conversación, y ciertamente es posible que tales nombres sean poco reconocibles para la gente que está escuchando esto incluso en un futuro cercano. Muchas de las compañías de IA se alzarán y se hundirán, algunas serán de código abierto y otras estarán tremendamente protegidas. Se desarrollará una amplia variedad de modelos empresariales, de licencia, de suscripción y modelos de entrenamiento asociados a la enorme cantidad de proyectos de IA que van a salir. Sólo porque el código de fuente sea de libre acceso en la versión actual de Stable Diffusion no significa que Stability.AI y otras empresas parecidas no vayan a cambiar sus tácticas más adelante. De hecho querría señalar que la versión que te puedes descargar ahora de Stable Diffusion y ejecutar desconectado se ve limitada por sus conjuntos de datos actuales. Es posible que puedas controlar algunos de sus parámetros, pero consumiría mucho tiempo y dinero reentrenar al modelo con un conjunto de datos actualizado, como ya he mencionado antes. Han sido necesarias una gran energía y muchas tarjetas gráficas para entrenar al modelo actual de Stable Diffusion y si quieres estar al día con esta tecnología, o vas a necesitar dedicar inmensos recursos en reentrenar el modelo o vas a tener que rendirte a estas empresas, que por supuesto es lo que quieren. 

También resulta bastante inocente pensar que una compañía con fines de lucro como Stability.AI, que va tras una valoración de mil millones de dólares y que busca incluir a inversores adinerados en su junta directiva, con un administrador de fondos libres como director ejecutivo, va a querer darte porque sí tu juguete favorito gratis de forma indefinida. Imagina que siguieran ofreciendo versiones gratuitas, acabarían siendo como Facebook, Twitter, Instagram, etc., repleto de todos estos malos estímulos y de efectos que distorsionan el mundo que ya hemos visto en estos modelos.

Argumento - “¿Pues no es lo mismo lo que hace la gente con referencias que lo que hacen las IAs?”

Es el momento de volver a un análisis más profundo sobre los supuestos establecidos anteriormente en este vídeo. Despejando dudas, es un argumento relacionado con la práctica del uso de referencias y el arte de terceros para elaborar una imagen o que sirva de inspiración. Este argumento es de por sí confuso. 

Primero: Imagina que la respuesta es que sí, la forma en la que una IA usa referencias es análoga a cómo la gente las usa, planteando la siguiente cuestión: ¿Por qué otorgarías el privilegio de esta tarea a máquinas que no sienten, en lugar de dársela a los humanos? Por el amor de Dios, estamos hablando de crear arte, no de ningún trabajo manual perturbador que la gente deteste. Es una de esas cosas que la gente disfruta haciendo. Cualquiera que lo mire desde el punto de vista humanista será capaz de ver que el hecho de crear y el resultado vienen a ser lo mismo y por ello crear arte debería ser exclusivo de la gente que lucha por beneficiarse de ello, que sea para la gente a la que le trae felicidad y satisfacción en vez de echárselo estúpidamente a algo insensible e inexistente que no puede disfrutar del fruto de su trabajo.

Segundo: No, la gente no hace el mismo arte usando referencias, las máquinas sí. La diferencia es que las máquinas pueden replicar exactamente sus referencias. Sí, claro, los artistas humanos consultan referencias, las recopilan, las combinan, las transforman y es cierto que a veces lo intentan lo mejor que pueden para copiar directamente, pero en la gran mayoría de los casos, no pueden replicar estas referencias de forma exacta.

Puedes observar tantos dibujos de Miguel Ángel como quieras, puedes colgar cientos de ellos en tu espacio de trabajo, aun así no vas a conseguir dibujar como él. Aunque lo calcaras no lo harías al nivel necesario para crear la duda sobre cuál es el original. Y si pudieras conseguirlo, casi seguro que eres un dibujante consumado que ha llegado ahí sudando la camiseta.

Las IAs no se ven equilibradas por esas restricciones. La IA puede conseguir perfectamente, digitalmente, reproducir, memorizar y crear un sobreajuste para cualquier efecto en el que se le entrene lo suficiente. Esto quiere decir que mientras que el ser humano invierte su esfuerzo más vehemente en recrear las mejores partes del trabajo de otro artista pudiendo resultar en una serie de deficiencias aceptables y agradables sorpresas, la IA puede llevar a cabo un perfecto robo a gran escala.

El humano se ve ennoblecido al intentar replicar una copia, al menos cuando se hace a mano y no copiando y pegando partes de una obra de arte digital. Porque con la mecánica de la ejecución manual, el sujeto mejora como artista a través de numerosos intentos de copia. Ejecutar una copia adecuada de una obra maestra está completamente fuera del alcance de un principiante y es irónicamente necesario una gran habilidad. Verdaderamente - y puede ser  difícil de entender si llevas mucho sin esforzarte en mejorar tus habilidades- si consigues copiar un Vermeer bien, te lo has ganado.

Argumento- “La IA nunca podrá reemplazar el alma de un artista, ¡nunca será capaz de generar ideas únicas de la forma en la que lo hace una persona!”

En realidad este es un argumento más en pos de ignorar la IA en vez de aceptarla, pero es un argumento que sale con frecuencia y creo que merece la pena mencionarlo. Cuando pensamos en la “visión del artista” de esta forma, considero que la estamos elevando a una extraña posición. Con este argumento asumimos que nuestras ideas son como una manifestación divina, inalterada y nacidas de la casualidad. En realidad, nuestras ideas son complejas reacciones, tanto conscientes como inconscientes, nacidas de los incontables factores que conforman nuestra vida. Recuerda, las IAs acabarán reaccionando en algún momento a tantos factores como lo hacemos nosotros. Van a estar tomando las constantes en tiempo real del rendimiento de internet, de sus palabras clave, las de moda y las tendencias. 

Y lo estarán evaluando simultáneamente con los “macrodatos” y con los datos individuales personalizados - tus gustos particulares, hábitos, preferencias e incluso estados de ánimo y salud física. Ya proveemos a las empresas con toda esta información en gran detalle. Las IAs te van a conocer muy íntimamente y en todo ello va incluida tu visión artística. Incluso si sus resultados son un tanto insípidos, mediocres o ininteligibles, las cantidades van a estar de su parte, no de la nuestra. Solamente con el volumen de su contribución se van a asegurar que ahí dentro, en algún lugar, va a haber algo por lo que te sientas atraído, algo que posiblemente ya hubieras pensado por tu cuenta si se te hubieran facilitado los mismos privilegios que a una IA.

Y si la calidad actual de lo que genera la IA sirve como ejemplo, podría ser menos mediocre de lo que cabría esperar. Navegar a través de la montaña de productos sin editar generados por la IA puede resultar a veces un tanto inquietante y confuso, pero hasta yo me veo parando a observar, asombrado, algunos de estos. De nuevo, esto ya viene a ser mucho considerando que estos sistemas se encuentran en su infancia.

Argumento: El problema con Dance Diffusion.

Existe un escandaloso doble estándar que radica en cómo estos sistemas manejan las artes visuales en comparación a cómo se hace con otras industrias creativas. Por ejemplo el más que evidente Dance Diffusion, la próxima herramienta musical de IA que va a lanzar un equipo que ya trabaja en Stability.AI, los creadores del modelo de texto a imagen de Stable Diffusion. Permíteme que te lea este artículo en el que se describe cómo se entrena a Dance Diffusion:

“Dance Diffusion también se basa en conjuntos de datos compuestos en su totalidad por música y muestras de audio libres de derechos de autor y que han sido otorgadas voluntariamente. Como los modelos de difusión tienden a memorizar y a crear sobreajustes, si lanzáramos un modelo entrenado con música que posea derechos de autor, podría acarrear problemas legales. Para honrar la propiedad intelectual de los artistas al mismo tiempo que respetamos los derechos de autor de la industria de la música, que son normalmente estrictos, era nuestro deber mantener cualquier tipo de material con derechos de autor fuera de nuestros conjuntos de entrenamiento.”

Si crees que es imposible que hayas escuchado lo que acabas de escuchar, ponlo de nuevo. El hecho de que tremendo doble estándar exista entre los productos de una sola empresa de IA hace que sea difícil imaginarse cualquier otra explicación que no sea la de la mala fé contra los artistas visuales y la abominable creencia de que sea correcto pisotearlos especialmente a ellos porque suelen defenderse y litigar menos de lo que suele hacerse en otras industrias, véase, la de la música. Me gustaría que cambiaras la palabra “música” en ese párrafo con la palabra “arte”. ¿De verdad estaría tan fuera de sitio? ¿De verdad implica que soy un ludita muerto de miedo que se resiste al cambio? Lo dudo mucho. Diría que la gran mayoría de la gente en su sano juicio verán que “honrar la propiedad intelectual de los artistas” es de lógica que incluya a los artistas visuales, no sólo a los músicos.

Ahora quiero que te imagines que nos hallamos en el pasado, pongamos hace 10 años, donde los generadores de texto a imagen aún no habían llegado. ¿Qué pasaría si te enteraras de que alguien estaba planteándose el sacar uno de esos sistemas y se comprometieran a seguir estas pautas tan juiciosa que acabamos de leer? Lo va a hacer gracias a las obras de arte libres de derecho de autor que se les otorgará voluntariamente. Me imagino que te pensarás que eso sería lo más sensato y lógico para crear y lanzar uno de estos sistemas, ¿verdad? Ahora imagina que después de haber escuchado esto, alguien saca adelante la idea de peinar internet para sacar miles de millones de imágenes y traga millones de obras producidas con el sudor y la sangre de los artistas sin su consentimiento, sin compensación alguna y sin ninguna posibilidad de poder retirar su trabajo del modelo una vez se lo haya entrenado con él. ¿No crees que tal plan resultaría claramente descarriado y poco ético desde tu aventajada posición en esa línea temporal, anterior al lanzamiento de tal aberración de programa?

El hecho de que estemos viviendo en una realidad en la que alguien se ha atrevido a hacer esto último sin pedir ningún permiso, ni ofreciendo compensaciones a aquellos que originalmente habían creado las imágenes con las que se ha entrenado al sistema, y luego se apresuren a lanzarlo antes de que nadie pudiera estar al tanto de sus fechorías, no hace que sea aún menos ético o simplemente chiflado. Considero que muchas de las suposiciones más inocentes sobre la IA se podrán desvelar si nos imaginamos cómo estos sistemas tendrían que haber sido manejados, en una realidad donde hubiéramos podido estudiar su potencial seriamente antes de que hubieran sido publicados. Por desgracia no hemos hecho nada porque la mayoría de la gente no pensó que pudieran llegar a ser tan buenos como lo son ahora, y si lo hubieran sabido, probablemente no hubieran pensado que fuera tan rápido.

Pero que ya hayamos sido engañados no quiere decir que tengamos que seguir cediendo tontamente a estas incipientes IAs. Sentaremos un precedente muy peligroso si no disputamos y desmantelamos estos sistemas tan injustos. Nuevas IAs seguirán surgiendo rápidamente y las bajezas que se multiplican debido a su naturaleza se nos echarán encima. No queremos que la gente que está haciendo estos programas piense que saldrán indemnes tras infringir los derechos de los artistas y que no escudriñaremos los sistemas, que no inspeccionaremos sus modelos empresariales y que no estaremos en general dispuestos a luchar por nosotros mismos.

Conclusión

Los sistemas de IA van a seguir retándonos. No sólo en el ambiente artístico, sino en todos los aspectos de nuestra vida, se harán notar tanto en lo digital como en lo físico y se apropiarán de todo tipo de trabajo, del creativo e incluso del mundano que se dejó típicamente para los humanos. Allá donde aparezcan y cualquiera que sea la tarea que desarrollen, antes de que simplemente te dés la vuelta y rindas todo el esfuerzo de una vida a la IA, pregúntate: ¿Se me está privando de un trabajo que me gusta hacer? ¿De verdad la vida tiene un superávit de alegría que hace que debamos dejar a las máquinas automatizar algo que nos gusta? ¿De verdad tenemos alguna buena razón para dejar que nos quiten un trabajo o una afición que nos es aspiracional y divertido en vez de que hagan una tarea rutinaria y miserable? ¿O simplemente nos estamos inventando razones por las que dejarles hacer eso, porque no queremos tomar la responsabilidad de defendernos, algo de lo que los artistas suelen huir? 

No debemos permitir que los desarrolladores de IA, con todas sus veladas técnicas, nos desdeñen hasta llegar a sustituirnos por completo. Debemos contraatacar, si no, vamos a sentar un precedente peligroso para todas las IA que están por venir.

La gente a la que se le incentiva fuertemente a proteger la opinión pública de estos sistemas nos acusarán de ser luditas, de no ser capaz de adaptarnos y de percibir catastróficas consecuencias de su mala conducta. No dejes que te hipnoticen con sus absurdos cantos, siempre debes recordar que no son artistas y no es su trabajo el que está en el conjunto de datos. Quieren controlar todo esto a nivel emocional, haciendo que parezcas un chillón y un quejica mientras ellos se muestran como unos seres tranquilos, inteligentes y progresistas.

Quieren que aceptes sin preguntas que todo lo que hagas y compartas será automáticamente arrojado al vientre de su producto de lucro. En el momento en el que estoy escribiendo esto, todavía no hay una forma en la que uno se pueda separar de estos sistemas, aunque hayan algunos que parecen que van a ofrecer la opción de que no te incluyan en el futuro. Mientras escribo el guión para este vídeo, Stable Diffusion ya ha anunciado que están escuchando las críticas y están desarrollando internamente una herramienta que permitirá a los artistas no ser incluidos en el entrenamiento. Suena como un paso en la dirección correcta, pero en ese caso querría señalar un par de cosas: 1, la crítica era necesaria para que este cambio se produjera. 2, no existe razón alguna por la que confiar en que la próxima compañía, que aparezca con un entrenamiento similar y lance su modelo, vaya a dar la opción de que no consientas. Y 3, la versión de Stable Diffusion que ya han lanzado bajo código abierto, va a estar ahí para siempre y se la va a entrenar con estos conjuntos de datos sin consentimiento y de forma descontrolada. Si tienes la opción de quedarte fuera, no se te incluirá en versiones posteriores de Stable Diffusion, pero seguirás en las previas. E imagino que mucha gente no querrá que se la excluya hasta que descubran que ya se ha incluído su obra en un modelo. Llegados a esto, si el lanzamiento es de código abierto, ya es demasiado tarde para ti. Es más, debes saber que vas a tener que hacerlo por cada producto de recopilación de datos que hay ahí fuera. Sólo los más listillos van a conseguir rescatar su obra mientras que devoran al resto. Estas empresas te ofrecerán poder excluirte esperando que no te des ni cuenta. Para empezar la opción debería ser que consientas.

Como ya he dicho al principio de este ensayo, no es difícil imaginarse un generador de texto a imagen que sea justo y equitativo. Lo cual hace que parezca que lo que ya han hecho - siendo muy bondadosos con esta interpretación- se defina como desconsiderado. Se podría erigir en una fundación de dominio público con imágenes bajo licencia Creative Commons, embellecerlo con imágenes que tu compañía cree de forma interna, hacer encargos a artistas que creen imágenes para que lo entrene de tu parte o compensar a los artistas que den su consentimiento para añadir sus imágenes en el conjunto de datos. Incluso otorgarles regalías cada vez que sus imágenes o su nombre se usen para generar un resultado. No veo nada malo en un modelo así e imagino que sería fascinante y efectivo, y aun así presentaría algunas limitaciones completamente sensatas que darían mucho espacio para que los seres humanos que tan duro trabajan sigan creando arte. También creo que serían muchos los artistas que felizmente consentirían añadir sus imágenes en tal proyecto. ¡Somos artistas! Nos encanta lo nuevo, lo extraño y lo maravilloso. Por más que a estas empresas de IA se les antoje que se nos vea como a unos aburridos mojigatos del pasado, que la verdad es algo un poco pasado de rosca teniendo en cuenta nuestro grupo demográfico. A muchos de nosotros nos encanta la tecnología, tenemos una larga lista de credenciales que respaldan lo geek que somos, siempre estamos probando cosas nuevas, experimentando y nos entusiasman estos extraños giros que pasan en el mundo. Considero que si alguien hiciera un modelo como este basado en el consentimiento, incluso yo les incluiría mis imágenes. Pero de momento, por favor, no nos dejemos llevar por la corriente y pensémoslo con detenimiento. Terminemos con este robo a gran escala de nuestro trabajo creativo. Dejaré enlaces en la descripción que os llevarán a asociaciones que están intentando organizarse con respecto a estos problemas, fuentes y vídeos informativos sobre el estado actual en el que se hallan estos sistemas. Te recomiendo encarecidamente que te documentes más sobre cómo estos sistemas funcionan y cómo las compañías están controlando la narrativa.

Links:

(Inglés) 

Sigue a la Concept Art Association para más noticias sobre cómo organizarse contra las IAs y ve su vídeo más reciente sobre la AI town hall

https://www.youtube.com/c/ConceptArtAssociation/

Equity está luchando contra las IAs que reemplazan a muchos tipos de artistas, sus esfuerzos son importantes para todos los creativos y puedes encontrar buenas fuentes aquí: https://www.equity.org.uk/getting-involved/campaigns/stop-ai-stealing-the-show/

Una página que investiga los conjuntos de datos de LAION para comprobar si tú o tu arte están ahí. Nótese que esta página te deja inscribirte para los próximas listas de no consentimiento del producto- No tengo ni idea de en qué resultará la naturaleza de ese producto y recomiendo precaución:
https://haveibeentrained.com/

Open AI explica cómo se inventaron su estructura legal porque nada de lo anterior les venía bien: https://openai.com/blog/openai-lp/

El lanzamiento de Stable Diffusion sin mención ninguna a “artistas”: https://stability.ai/blog/stable-diffusion-announcement

Imagen te cuenta cómo se entrenan sus conjuntos de datos en su versión “sin madurar” y contiene “un amplio rango de contenido inapropiado, incluidos pornografía, insultos racistas y estereotipos sociales dañinos”. Esta es otra de esas páginas en las que deberías lanzar la búsqueda de “artista” (cntrl+f):
https://imagen.research.google/

La congresista de California Anna G. Eshoo se dirige a la Oficina de política de ciencia y tecnología de los Estados Unidos (OSTP) instando a la investigación sobre el peligro de los modelos de IA, véase Stable Diffusion: https://eshoo.house.gov/media/press-releases/eshoo-urges-nsa-ostp-address-unsafe-ai-practices

Un gran artículo en el que se resume cómo es el blanqueamiento de datos de las compañías de IA:

https://waxy.org/2022/09/ai-data-laundering-how-academic-and-nonprofit-researchers-shield-tech-companies-from-accountability/

Una buena explicación un tanto técnica sobre cómo los modelos de difusión como Stable Diffusion funcionan:

La mejor explicación popular sobre cómo funcionan los modelos de difusión:

@ham_made_art Visual intuition for diffusion models and AI art. #stablediffusionart #aiart #aiartwork #aiartcommunity ♬ original sound - Austin Hambrick

Quiero dar las gracias en especial a mi mujer por su ayuda editando el guión, a mis mecenas por su apoyo, a mis amigos en Discord por los links, información especializada y sus primeras reacciones y a todos aquellos que se compran el curso.

Hice el dibujo que sale en este vídeo, “Prey For A Spiritual Creature” (“Presa de criatura espiritual”) en papel bristol de Strathmore 18”x24”.