Mi miedo (y esperanza) ante la Inteligencia Artificial

A decir verdad, llevo casi un mes –o más– intentando escribir algo sobre IA. En primer lugar, no soy buena ensayista; creo que soy mejor escribiendo ficción. Por otro lado, me he enfrentado durante semanas a sensaciones muy intensas, muy mezcladas. Algunas de ellas tienen que ver con el fenómeno en sí y otras con mi relación con dar una opinión al respecto. No será este un ensayo formal ni un artículo científico, ni tampoco creo que vaya a revolucionar el estado de la cuestión. Simplemente necesito escribir sobre ello.

Y esto mismo es quizás lo primero que me gustaría tocar: la necesidad humana de expresarse. Aunque esta se caracterice muchas veces como una necesidad –o bendición o maldición– del artista, esta es más bien común a todos los seres humanos. No olvidemos que Roman Jakobson atribuía la función emotiva del lenguaje¹ a, justamente, al lenguaje humano. Por tanto, se la atribuía como capacidad a todos los emisores posibles y no exclusivamente a una subclase de emisores concreta ni a un género de mensaje o discurso concreto. Así pues, cualquier acto lingüístico que intente dar cuenta del estado de quien lo realiza está orientado –usando la terminología del propio Jakobson– al emisor y, por tanto, a la función emotiva… independientemente de que concurran otras orientaciones y, por tanto, otras de las funciones del lenguaje. Que algunos intentemos hacer de esa expresión también una obra de arte con mayor o menor éxito mediante la orientación al propio mensaje –esto es, mediante la función poética–, esa es otra cuestión. El ser humano no solo utiliza el lenguaje para dar información sobre el mundo que lo rodea, sino para bastante más… incluso para hacer mediante el lenguaje, como bien enseñaba John L. Austin, padre de la pragmática lingüística.²

¿Qué hace que una persona esté, como he dicho, más de un mes “dándole vueltas” a un texto, con ataques de nervios incluidos en más de alguna ocasión? Evidentemente la necesidad de decir algo sobre algo que le importa por algún motivo, incluso sin importar cuánta gente vaya a leerle el texto, y de un modo que la represente. Creo que es una de esas características que nos hacen humanos. Nos expresamos y nos relacionamos a través del lenguaje con los demás y con el conjunto de la sociedad, incluso a través del tiempo: leer a Aristóteles, por ejemplo, es continuar una conversación que ha durado milenios. Isaac Asimov o Ursula K. Le Guin no solo escribían para su tiempo, sino que también para los lectores del futuro, tantas veces como advertencia y tantas otras como muestra de esperanza. La intención en el lenguaje es lo que lo hace profundamente humano, individual y también relacional y social, y esto es lo que los modelos extensos de lenguaje (LLM, por sus siglas en inglés) no van a poder replicar jamás.

Siendo honesta, no soy una detractora absoluta de los modelos de IA comerciales. En primer lugar, tenemos el gran problema de la definición de qué es una IA. Hace un par de décadas, en el lenguaje coloquial, el término se utilizaba más frecuentemente para los algoritmos que utilizan los videojuegos para simular un contrincante. Sin embargo, si consideramos la tecnología, quizás la definición de IA es cualquier sistema capaz de procesar datos que no conoce de antemano mediante un sistema deductivo tras haber sido entrenado con un modelo general. En esa definición tendríamos que incluir tecnologías que nadie en su sano juicio consideraría perjudiciales, en buena medida por lo invisibles que son. Por ejemplo, los programas informáticos de edición audiovisual han incorporado “IA” para tomar decisiones desde hace décadas para alinear píxeles, aplicar suavizado de bordes (anti-aliasing) o crear máscaras de recorte para separar un sujeto del fondo de la imagen o vídeo, como también para asistir en otras funciones. En aplicaciones de navegación por GPS también se aplican técnicas de aprendizaje automatizado (machine learning, ML) para ofrecer rutas más óptimas a lo largo de la jornada según el estado del tráfico de la zona por la que se transita. Es por esta razón que nadie duda ni de la utilidad ni de la conveniencia de esos “pequeños” algoritmos de IA que, día a día, permiten que el software que utilizamos “aprenda” y se “adapte” a nuestro medio.

Como mucho, la crítica a esos modelos “anteriores” se ha centrado en la invasión a la privacidad y la consecuente ingeniería social: por ejemplo, a los modelos de ML que han alimentado los algoritmos de recomendación de las redes sociales o los de reconocimiento de voz y rostro. Curiosamente es con esos modelos con los que vivimos una transición que, creo, fue la antesala a la situación actual: esos algoritmos de las redes sociales, al final, tienen que generar unas recomendaciones. Evidentemente, el resultado generado no es algo que se parezca en nada a una obra creativa humana ni presenta dudas sobre una posible sustitución del humano por la máquina. Sin embargo, hemos sido conscientes desde hace un tiempo de que las recomendaciones de las redes sociales tienen un impacto, primero, individual y, finalmente, social… Ofrecen un modelo sobre gustos tanto del usuario como de la sociedad en su conjunto y, por supuesto, han tenido la capacidad de escorar en una u otra dirección qué “contenidos” se priorizan o no en la plataforma. La diferencia con los chatbots actuales de IA generativa está en que aquellos modelos no permitían al usuario final generar nada, como sí estos ahora, sino que en aquellos siempre y exclusivamente es la empresa de la plataforma la que genera algo que el usuario consume.

Evidentemente ahora nos enfrentamos a un impacto personal y social muy diferente que a mí me aterroriza, pero no por la tecnología, sino casi diría por cuestiones espirituales. Con los modelos extensos de lenguaje (LLM, texto) o modelos de difusión latente (LDM, imágenes) la tentación se asemeja a aquella de la que advertían alquimistas y hermetistas de siglos muy pasados ante el poder de lo oculto: la de querer llegar a ser dioses sin caminar el arduo camino de la gnosis.³ Ahora tenemos a solo un prompt de distancia la aparente posibilidad de crear lo que queramos, tokens mediante. Por supuesto, aquí he de hacer notar la obviedad de que ya estamos en la fase de diferenciación de quién puede hacer realmente lo que quiere y quién no según cuántos tokens puede pagar, cosa que era evidente que sucedería en algún momento.

Sin embargo, todo es ilusión y ni siquiera tiene que ver con si los modelos de IA generativa aún alucinan o cuánto alucinan o cuál es la calidad de su resultado, porque es evidente que en ámbitos como la programación informática los últimos modelos están generando código y resultados extremadamente buenos e interesantes, por no hablar de la labor en descubrimiento de fallos y vulnerabilidades de seguridad. La utilidad, relativa y en ámbitos definidos, no está en entredicho. A riesgo de tirar piedras sobre mi propio tejado, incluso puede llevar a cabo correcciones de texto, traducciones y proponer borradores que no están mal y que, en un futuro, seguramente sean mejores que hoy en día. Sí, los LLM son capaces de generar resultados muy interesantes, pero, eso sí, sin criterio que las gobierne ni gusto estético ninguno y siempre de un modo que es estadísticamente plausible, que es consecuencia del sistema de “pesos” y de que –quizás esto sorprenda– no tenemos en lingüística una teoría representacional del significado como contenido mental o cognitivo. Solo tenemos una teoría relacional –derivada de De Saussure⁴– que es la que se usa para desarrollar taxonomías de entrenamiento y el modelaje lógico-formal mediante lógica proposicional (por ejemplo, mediante cálculo lambda en modelos como Glue Semantics). Ante la pregunta de qué significa el sustantivo casa podemos dar una definición de diccionario que, por ser una observación a posteriori, siempre va a quedarse corta ante innovaciones y los márgenes difusos de aplicación que tiene una palabra. Si estamos en lingüística formal podemos también modelar el significado como una lista interminable de rasgos ({N, [GEN f], [+ vivienda], [- laboral], [+ contable], ...}), pero eso solo describe las condiciones de selección y subcategorización. Si ser parte de una comunidad de hablantes implica participar de un conocimiento socialmente compartido que nos identifica como hablantes de una lengua ante los demás hablantes (Coseriu, 1952)⁵, no tenemos cómo describir de forma precisa y cerrada cómo es ese conocimiento más allá de descripciones de uso, pero que no explican por qué el uso es posible y hasta dónde. Al final esto nos acaba llevando a las eternas preguntas filosóficas sobre qué es y cómo se da el conocimiento humano, preguntas que han sido una constante desde, por lo menos, Parménides. Sabemos que sabemos pero ¿sabemos qué es saber? A la lingüística no le queda más remedio que ser esclava de la filosofía en este campo y salir del paso con soluciones muy ad hoc según el trabajo científico que estemos realizando. Como consecuencia, es por esto mismo que con lenguajes formales cerrados y predefinidos como lo son lenguajes de programación informática los modelos brillan en sus resultados, mientras que son capaces de cumplir un mínimo de corrección y adecuación para generar textos en lenguaje verbal humano –útil parcialmente para textos formulaicos–, pero sin creatividad lingüística ninguna.

Con la generación de imágenes mediante LDM sucede algo similar, aunque reconoceré que conozco mucho menos la tecnología subyacente. Lo que es curioso es que el ser humano, al ser tan visual, es capaz de reconocer la mediocridad de lo generado visualmente de forma mucho más automática que en lo generado por texto… hasta que se recita en voz alta. El AI slop visual canta a la vista; el textual necesita más educación textual para ser detectado por el receptor.

Guardo aquí la toga y el birrete doctoral. Mi intención no era ponerme técnica. Ha sido inevitable.

Mi miedo es que nos olvidemos de qué es ser humanos, porque llevamos demasiado tiempo menospreciando la creatividad inherente a nuestra naturaleza y esperando a que otros la “gestionen” por nosotros. Estamos, en primer lugar, demasiado ocupados, aunque evidentemente en nada edificante; ni siquiera muchos trabajos tienen ya nada de dignificador o edificante, sino que solo son un sinsentido inhumano que trocan nihilismo por un mal sueldo con el que apenas poder sobrevivir… Todo en nombre de la sacrosanta “producción”. De hecho muchas veces llenamos nuestro tiempo con “contenido” para “optimizar” o “hacer más productivas” nuestras vidas con el cual nos vamos matando progresivamente en una marisma nihilista. Luego, “para compensar” buscamos respuestas espirituales en más “contenido” que siempre prioriza la forma al fondo y la venta de identidades para reemplazar los vínculos de verdad. Por supuesto esto abre la puerta al comentario sobre la comodificación del placer e, incluso, del Eros bajo una lógica de consumo, que es la lógica de la producción, también: “¡Más, no importa mucho cómo!”. Es en ese contexto que nos vimos atrapados en las redes sociales, que han canibalizado lo “social”, y ahora en modelos de IA que nos mienten con la promesa de “ser más productivos” o de “aprender un oficio nuevo” o “crear algo”. El resultado, por muy perfecto que pudiese llegar a ser, no va a poder reemplazar el desarrollo humano que hay detrás de honrar nuestra creatividad utilizándola.

Y no, la creatividad no está restringida a los artistas que adoptan tal etiqueta, ya sean grandes o pequeños, conocidos o desconocidos, o millonarios o en bancarrota. De hecho, creo que el actual panorama con los modelos de IA refuerzan ese mito de la “clase artística” por dos vías. Primero, mediante la promesa de que los modelos permiten que cualquiera pueda crear algo y “ser artista”, aunque, en realidad, no haya una gota de alma suya en lo generado.⁶ Esto vende una ilusión de “democratización”, sujeta, en realidad, a las condiciones draconianas de las plataformas. Por otro lado, también conduce a los contrarios a la proliferación de modelos de IA a considerarse a sí mismos artistas de verdad y adalides de la creatividad humana, como si fuesen una élite de quienes poseen la verdad del hecho artístico humano… y eso solo desanima a quienes tienen ganas de crear algo.

Todos somos creativos. Somos creativos individualmente, pero también en sociedad. Cuando vivía en Catalunya a mí me encantaba ver els castells porque son una demostración de arte efímero con técnica colectiva, también incluyendo en ella a la banda de música de la colla. Hay un placer enorme y un aprendizaje muy bonito en hacer cosas y en pedir ayuda a alguien que sabe hacerlas mejor porque tiene su criterio (¡contratad a una lingüista, por ejemplo!). Al final el ser humano crea acompañado por todas las experiencias que ha vivido desde que tiene uso de razón. Quien haya leído los textos de la Antigüedad Clásica en sus lenguas originales ha absorbido unas posibilidades del lenguaje que son herramientas muy interesantes estilísticamente. Quien haya vivido una vida llena de situaciones angustiantes sabrá introducir aspectos no muy corrientes de la vida humana en su trabajo creativo. Quien haya tenido hijos… Quien haya vivido en distintos países… Quien tenga una huerta y conoce los secretos del campo… Quien haya nacido en una familia culturalmente diversa en un país distinto a los de sus padres y haya estado expuesto a géneros musicales con lenguaje propio… ¡Yo qué sé! Si celebramos la diversidad de la experiencia humana, entonces entendemos que todos podemos llevar esa vida a aquello que creamos con nuestras manos metafóricas del esfuerzo creativo. Como enseña la lingüística, todos los emisores poseemos la capacidad de usar la función emotiva y en ella siempre se asume que estamos ante un tú, aunque sea uno abstracto cuyo rostro aún no conozcamos, si me perdonáis lo deleuziano.

Quiero un mundo donde no deje de mandar la maravillosa ingenuidad y creatividad del ser humano, con libertad. Las herramientas mejorarán y no me parece sensato censurarlas a priori. Sin embargo, creo que podemos mejorar nuestra relación con ellas para que sean un complemento y no una sustitución de nuestro poder… aunque me temo que eso requerirá destronar a ciertos mandamases tecnológicos que deberían leer de verdad a los estoicos (especialmente en lo que concierne a la ἀρετή, la virtud) y deshacernos de una cultura tecnológica centrada en hacer adictas y pobres a las personas en vez de ayudarlas a explorar el potencial que ya tenemos por ser humanos. En este preciso momento, todo el arsenal tecnológico es más bien bastante venenoso y está explotando la psique herida de una mayoría de la humanidad cansada por los abusos que ha recibido.

Tengo miedo. Sí, miedo a que nos gane la tentación de rendirnos no ante la máquina, sino ante unos personajes que odian la libertad humana –aunque se llenen la boca nombrándola– y la venden como la solución a unas exigencias de productividad y de “marca personal” que son explotadoras e inhumanas. Al mismo tiempo, sé que los seres humanos somos increíbles cuando actuamos con conciencia y nos ponemos manos a la obra.

…

Increíble. He conseguido acabar este texto… A lo largo de la composición y de tantos borradores descartados, he sudado, he llorado, me he enfadado y he dudado de mí misma y de mis capacidades y todo ello es testimonio práctico del valor que le otorgo a la labor creativa, como explico arriba. Esta cuestión me importa. Me importa que tú, lector, entiendas que puedes ser más fuerte que lo que nos venden, desde tu lugar, ideas, oficio y corazón.

Amigos, con la mano en este pecho doliente y herido por tantas aventuras, vivid la vida y ponedla en todo lo que hagáis, por pequeño que parezca. Ninguna máquina puede hacer eso. Tú y yo, en cambio, sí.