Nightshade: ¿Es una herramienta de envenenamiento de datos?

Con la Inteligencia Artificial (IA) extendiéndose por el panorama de las artes y la creatividad como una plaga, la propia definición de propiedad intelectual está cambiando día a día.

Los límites de lo que realmente es el plagio y de cuánto contenido generado por IA puede considerarse obra de arte patentada se están volviendo tan finos como la hoja de papel de tu último cómic.

Mientras comienza la guerra de los derechos de autor, los nuevos métodos para «envenenar» el trabajo creativo y detener el raspado de datos parecen ser la solución para evitar que las máquinas «roben» lo que crearon los humanos.

Pero, ¿no están las máquinas haciendo lo que los humanos les dicen que hagan? ¿Se trata de una guerra contra las máquinas ladronas, contra otros humanos o simplemente contra la forma en que la tecnología está obligando a evolucionar al arte?

Para entender esto, primero debemos centrarnos en qué tipo de cambios está aportando la IA al trabajo creativo.

¿Robar, copiar y plagiar, o simplemente «inspirarse»?

Antes de la llegada de la IA generativa, los artistas eran libres (hasta cierto punto) de inspirarse en lo que quisieran. La propia definición entre «inspirarse» y plagiar el trabajo de otro nunca es siempre una línea difusa, que a veces necesita la opinión de los tribunales: es una regla difícil de fijar en piedra.

Aun así, el trabajo humano creativo seguía siendo necesario para generar cualquier tipo de arte: incluso el plagio requiere cierta habilidad.

Las cosas se volvieron un poco más agitadas con la introducción de herramientas y ayudas visuales como Photoshop, ya que a menudo se consideraban un atajo conveniente. Pero el trabajo humano seguía siendo trabajo humano.

Entonces llegó la IA. Hoy en día, el alcance de la IA es tan enorme que la «inspiración» puede tomarse, literalmente, de todo Internet a la vez.

A grandes rasgos, esto significa que cualquier obra de arte puede inspirarse y transformarse en otra cosa en cuestión de segundos. Esto no sólo anula -o al menos pone en tela de juicio- todo el significado de «creatividad», sino que significa que el esfuerzo legítimo de cualquiera por crear algo único pierde ahora todos sus raíles de seguridad.

Cualquier cosa puede ser plagiada, prácticamente al instante, sin nadie contra quien reclamar: el trabajo humano ha sido de diez segundos para escribir un texto, y el resto se genera casi instantáneamente mediante código.

Esto duele, sobre todo cuando ves que tu obra de arte es fácilmente superada por algo creado por una máquina.

Envenenar obras de arte: ¿métodos de lucha solapados o armas necesarias?

En una historia tan antigua como el tiempo, cuando los seres humanos empiezan a pelearse por algo, alguien saca provecho creando una nueva arma para ayudar a una de las partes.

¿Y si los artistas pudieran por fin proteger su propiedad intelectual sin tener que preocuparse de qué cubre realmente el copyright y qué no?

Aquí llega Nightshade, una nueva herramienta creada para «envenenar» obras de arte, de modo que cualquier dato de entrenamiento que utilice ese arte corromperá la IA que lo utilice.

Nightshade modifica de forma invisible los píxeles de las obras de arte digitales para que, cuando un modelo de IA generativa como Midjourney, DALL-E o Stable Diffusion las ingiera, se confunda y se intoxique.

En otras palabras, leerá la imagen de un gato como la imagen de, por ejemplo, un avión, desestabilizando los modelos generativos de texto a imagen e impidiéndoles generar imágenes con sentido.

La idea es devolver la lucha a los artistas, y ya que no se puede impedir que la IA utilice todo lo que se ha hecho hasta ahora, al menos se puede impedir que utilice lo que se va a crear a partir de ahora.

La alternativa es interponer una demanda judicial, lo cual no es fácil, ya que se trata de una situación novedosa y en fase de pruebas, y no se puede esperar que los tribunales estén debidamente equipados para hacer frente a circunstancias en las que no se han sentado precedentes.

Además, un artista puede estar luchando contra un gigante tecnológico como Google, lo que reduce aún más sus posibilidades de ganar. Sin embargo, el enfoque de Nightshade es bastante agresivo, ya que dañará literalmente el modelo de IA, impidiendo que pueda raspar datos sin riesgo de corromperse permanentemente.

Envenenamiento de la IA por Nightshade: Las cuestiones éticas

Tenemos un panorama extremadamente complejo que está barrido por algo más que un viento de cambio: es un verdadero huracán.

Si ese es nuestro horizonte, es hora de respirar hondo y analizar las circunstancias de la forma más objetiva posible.

Es difícil definir cuánto trabajo humano es realmente necesario para considerar la creación como obra de arte merecedora de protección de la propiedad intelectual.

Una persona razonable entenderá que «escribir unas líneas de guión» no está al mismo nivel que pasar semanas sobre un lienzo o detrás de una máquina de escribir, sobre todo porque las habilidades requeridas se parecen más a las de un buen programador que a las de un pintor.

Sin embargo, el arte cambia, como siempre lo ha hecho y siempre lo hará. En el siglo XIX, la introducción de la fotografía revolucionó la percepción de las artes visuales. Los pintores eran contratados no sólo como artistas, sino también como artesanos por cualquiera que quisiera conservar sus propios rasgos a través de un retrato.

La fotografía facilita las cosas, congela un momento en el tiempo para siempre y tarda segundos en hacer lo que los pintores tardaban días en terminar.

En otro momento de la historia, llegamos a la invención de los moldes y, más tarde, de las resinas sintéticas, que trastornaron el trabajo de miles de escultores. De hecho, ahora pensamos que la escultura la hacen personas que modelan obras de arte en 3D en lugar de ser maestros del bisturí.

Aun así, ¿quién puede quejarse hoy en día cuando podemos disfrutar de unas miniaturas de resina prácticas y de aspecto impresionante por unos pocos dólares?

No obstante, uno de los principales aspectos que suenan (y nosotros sugeriríamos que son) injustos es que, cuando se roba una obra de arte creativa, los que son demandados son las IA. No son humanos, ¡así que no se les puede culpar!

Hay un ser humano detrás de esa IA y, aunque se pueda argumentar que ese ser humano no podía saber que la IA había robado tu obra de arte en concreto, siguen siendo seres humanos los que crean las herramientas de explotación y luego introducen los mensajes.

No se trata de artistas contra IA, sino de la facilidad con que la IA puede ser utilizada por personas que quieren producir obras de arte sin pagar a los artistas. Como siempre ocurre en todas las sociedades humanas, todo se reduce a que algunas personas quieren ganar más dinero fácilmente frente a otras a las que de repente se les paga menos (o no se les paga en absoluto) por sus esfuerzos.

En resumen: ¿Hay alguna solución pacífica a la guerra de la propiedad intelectual?

Nightshade es una reacción extrema y destructiva a una controversia que cada día es más volátil. No es que no esté justificada por sí misma, ya que parece una forma de intensificar el enfrentamiento en lugar de desactivarlo mediante la búsqueda de un compromiso.

Una sugerencia que podría aportar cierto equilibrio a la economía de las obras de arte de IA generativa es ofrecer una tarifa a cualquier artista que alimente contenidos que entrenen estos modelos, al tiempo que se obliga a la gente a pagar por utilizar las herramientas.

Esto difícilmente hará que las cosas sean justas de la noche a la mañana, pero podría ser un paso en la dirección correcta.

Debemos recordar algo que ya llevamos años diciendo en tecnología: que la IA va a revolucionar nuestro mundo. Y «revolucionar» significa que las cosas no pueden ser ni serán iguales, por mucho que luchemos por mantener el statu quo.

Alguien se va a beneficiar, y alguien va a perder algo en el proceso, es algo que todos debemos aceptar.

Sin embargo, como ocurre con todo, al menos deberíamos esforzarnos por encontrar un término medio.

Pero al menos un compromiso que deje a unos pocos insatisfechos es mucho mejor que tener dos bandos que discuten airadamente entre sí hasta que, como escribieron una vez aquellos artistas originales suecos, el ganador se lo lleva todo.