Veneno para la IA

Escrito por Joel Cuellar Lopez el 05/03/2024

Ciertamente uno de los temas que más revuelo han causado en los últimos años con relación al arte y la ciencia es el uso de la susodicha “Inteligencia Artificial” para generar imágenes, audio e incluso vídeo. Primero tenemos que aclarar que el término “inteligencia” es uno de esos conceptos utilizados de manera cotidiana y coloquial pero sin una definición clara. Todos inferimos de manera intuitiva a lo que nos referimos con dicha palabra, pero pocas veces nos detenemos a pensar en el concepto como tal.

Muchos confunden inteligencia con voluntad o conciencia, ya que por lo regular un ser con dichas características (como un humano) tendría además inteligencia, pero un ser o una máquina inteligentes no necesariamente tienen consciencia de sí (como un gusano o una bacteria) o voluntad propia (como un dron).

La inteligencia es simplemente la habilidad cognitiva necesaria para adaptarse a una situación específica, ya sea aprender a usar una herramienta, hablar un idioma diferente o encontrar una nueva manera de conseguir alimento. Por lo tanto, una máquina que aprende la manera más eficiente de llegar del punto A al punto B es inteligente sin ser consciente de sí misma o tener voluntad individual. Asociamos estas características a la IA porque son características de la inteligencia humana, pero no son un requisito para ser inteligentes.

Aún así hay personas que ni siquiera llaman a estos nuevos algoritmos IA, por lo que utilizan otros términos como “Machine Learning” (ML) o “Neural Networks” (NN) refiriéndose a los tipos específicos de tecnología utilizada. El término Machine Learning (Aprendizaje de Máquina) es especialmente interesante porque en efecto, tras el diseño de un sistema con la intención de hacer un cálculo o predicción, hay que alimentar un gran volumen de datos al sistema para que este “aprenda” y pueda calcular dichas predicciones correctamente. Muchas veces este proceso pasa por varias etapas a las que se les suele llamar “entrenamiento”.

Por eso el ML es tan bueno para hacer cosas como elaborar la imagen del personaje X al estilo Z, ej. ¿Cómo se vería el presidente si fuera el protagonista de una película de misterio en 1980? Pero para elaborar dicha respuesta necesita alimentarse de todas las imágenes posibles del presidente, de películas de misterio y de 1980. La imagen resultante es el cálculo predictivo de cómo se vería la respuesta a dicha pregunta.

Pero ¿de dónde obtener toda esa información necesaria? Precisamente aquí entramos en controversia. Con tal de entrenar a la IA sus diseñadores utilizan todas las bases de datos disponibles en Internet, muchas veces obviando aspectos como el derecho de autor o propiedad intelectual. Lo que ha llevado a artistas y autores a tomar acciones legales en contra de esta práctica, pues lo ven como una forma de plagio.

Hasta ahora se ha logrado que el resultado de la IA no sea considerado arte y no sea posible tener los derechos de autor o la propiedad intelectual de las piezas elaboradas por este método. Por lo que cualquiera puede usar y apropiarse de las imágenes, textos, audios o vídeos hechos por las IA.

Sin embargo hay quienes han dado un paso más allá, indispuestos a que sus obras sean utilizadas para alimentar a la IA, han utilizado herramientas digitales para interrumpir el desarrollo de esta tecnología. “Glaze” es un programa creado por la Universidad de Chicago, que permite hacer cambios imperceptibles para el ojo humano a los archivos de imagen al momento de cargarlos en Internet. Dichos cambios están diseñados para alterar el proceso de entrenamiento del ML. Si un programa utiliza dichas imágenes para realizar sus cálculos, la predicción resultante es imprecisa o hasta incoherente.

Otras herramientas, como “Nightshade” no se quedan ahí e incluso interfieren con los sistemas de redes neuronales (NN), haciendo que estas confundan distintos tipos de imágenes y que por lo tanto, incluso si en el futuro no son alimentadas con imágenes “envenenadas” su entendimiento de las mismas ya habrá sido alterado.

Claro que ya existen formas de proteger a las NN de estos tipos de tecnología, por lo que la carrera armamentista apenas ha iniciado. Lo que el futuro nos ampara promete ser entretenido.