Apocalípticos e integrados, medio siglo después

Leer a Eco para pensar la Inteligencia Artificial

¿De dónde viene esta idea?

Umberto Eco escribió “Apocalípticos e integrados” en 1964, en Italia. En ese momento la televisión era algo nuevo —había empezado apenas diez años antes— y todo el mundo discutía qué hacer con ella. Eco no era un profesor encerrado en una biblioteca: escribía en revistas, colaboraba con la radio y la televisión pública italiana, y además era un lector fanático de historietas, como Superman, que en esa época la gente “culta” miraba con desprecio.

Eco notó algo curioso. Frente a la televisión, el cine, las historietas y todo lo que hoy llamaríamos cultura popular, había dos grupos de intelectuales que no se ponían de acuerdo, pero que en el fondo cometían el mismo error. Un grupo —Eco los llama los apocalípticos— pensaba que todo esto era una catástrofe: que la televisión y las historietas embrutecían a la gente y bajaban el nivel cultural. El otro grupo —los integrados— pensaba lo contrario: que estas tecnologías eran maravillosas porque, por primera vez, le acercaban la cultura a todo el mundo, no solo a unos pocos privilegiados.

¿Cuál era el problema con esas dos posturas? Que ninguna de las dos se tomaba el trabajo de mirar de cerca lo que estaba criticando o celebrando. Los apocalípticos condenaban la televisión sin analizarla en serio. Los integrados la aplaudían sin hacerse preguntas incómodas. Eco eligió un camino distinto: en vez de juzgar desde afuera, se puso a estudiar con atención cómo funcionaban esos productos populares. Escribió, por ejemplo, sobre un conductor de un programa de preguntas y respuestas muy visto en la tele italiana, y sobre por qué Superman nunca puede envejecer ni resolver el mal de una vez por todas: es un personaje que se vende todos los meses, y necesita repetir siempre el mismo conflicto sin agotarlo del todo.

De la televisión a la Inteligencia Artificial

Sesenta años después, el aparato cambió —ya no es la televisión, son los programas de inteligencia artificial que escriben textos, generan imágenes o conversan con nosotros—, pero la discusión es casi idéntica.

Hoy también hay dos bandos. Están los que ven en la inteligencia artificial una amenaza: dicen que nos va a volver más torpes para pensar, que nos va a sacar trabajo, que nadie va a razonar por sí mismo. Y están los que la ven como una maravilla sin límites: cada versión nueva es un paso hacia un futuro mejor, sin preguntarse mucho qué se pierde en el camino, ni quién es el dueño de esa tecnología.

Y pasa lo mismo que en 1964: los dos bandos hablan de “la inteligencia artificial” en general, sin mirar de cerca un caso concreto. Se la condena sin haberla usado en serio, o se la aplaude sin fijarse en sus errores, en cuánta energía gasta, o en los intereses de las empresas que están detrás. Muchas veces el rechazo tiene menos que ver con la herramienta misma y más con el origen o la marca: se rechaza “usar IA” un poco como antes se rechazaba tal o cual programa de computación por venir de tal país o de tal empresa, más por pertenecer a un grupo que por un motivo técnico real.

Lo más útil de Eco, aplicado a esto, es justamente ese tercer camino: ni condenar en bloque ni aceptar todo sin pensar, sino preguntarse con calma cómo funciona la herramienta, qué produce y a quién le sirve.

Un programa de inteligencia artificial no piensa como una persona: toma muchísimo texto ya escrito por otros y calcula cuál es la palabra más probable que sigue. Eso lo acerca más a la lógica de Superman —repetir una fórmula que ya funcionó— que a la de alguien que inventa algo nuevo desde cero.

Hay otra idea de Eco que ayuda a pensar esto, de un libro que escribió antes, en 1962, llamado Obra abierta. La idea es esta: hay obras de arte que te dicen exactamente qué sentir o pensar, sin dejarte margen —un cuadro clásico, una canción con una melodía fija que suena siempre igual. Y hay otras obras, en cambio, hechas a propósito con partes sin terminar, para que la persona que las lee, las escucha o las toca complete algo con sus propias decisiones.

Un ejemplo simple: hay piezas de música donde el compositor no fija el orden de todos los fragmentos, sino que se lo deja elegir al músico esa noche. Y acá conviene aclarar algo, porque es fácil confundirlo: no se trata simplemente de que cada músico interprete distinto una misma pieza —eso pasa siempre, hasta con la música más tradicional, y no es a lo que apunta Eco. Lo distinto acá es que el compositor no decidió el orden: dejó, a propósito, una decisión real sin tomar, y quien toca la pieza tiene que tomarla. No le está poniendo un matiz personal a algo ya terminado: está terminando de armar una parte de la obra que todavía no estaba armada. Por eso la misma pieza suena distinta cada vez, según quién decida ese orden, y por eso Eco la llama una obra abierta: no es que el autor no hizo nada y dejó todo librado al azar —armó una estructura, con reglas—, sino que dejó a propósito huecos donde otra persona tiene que decidir para que la obra quede completa.

Con la inteligencia artificial pasa algo parecido, aunque no sea arte. El mismo programa te da respuestas completamente distintas según cómo le escribas el pedido. El texto o la imagen que sale no está terminado dentro del programa: se termina de armar entre lo que el programa ofrece y lo que la persona decide pedir, elegir y corregir. Eso no resuelve quién es el verdadero autor de ese texto. Al contrario: como ahora hay una máquina de por medio, hace más falta aclararlo. Pero ayuda a pensarlo mejor: la máquina ofrece un abanico de posibilidades, y es la persona la que elige, arma y se hace responsable del resultado final.

“El medio es el mensaje”: por qué la IA no es inocente

Ahí entra otra idea, esta vez de Marshall McLuhan, un pensador de la misma época que Eco lo ubicaba más bien del lado de los “integrados”, como un optimista de la tecnología. Su frase más famosa es “el medio es el mensaje”. En palabras simples, quiere decir esto: una tecnología nos cambia no tanto por lo que dice o muestra, sino por la sola forma en que la usamos todos los días. La imprenta no cambió al mundo por los libros puntuales que se imprimieron, sino porque instaló la costumbre de leer en silencio, solo, línea por línea. La televisión no cambió la infancia por los programas que pasaba, sino por el simple hábito de sentarse a mirar una pantalla.

Con la inteligencia artificial pasa algo parecido, y por eso no es una herramienta inocente. No importa tanto si el texto que produce es bueno o malo: lo que importa es que, con solo usarla seguido, ya vamos cambiando cómo pensamos y cómo trabajamos. Pedirle a una IA que escriba el primer borrador de algo, que busque un dato o arme una idea, no es lo mismo que hacerlo uno mismo, aunque el resultado final —ya corregido y revisado por nosotros— se vea igual. Algo cambia en el camino: nos acostumbramos menos a tolerar un primer borrador propio imperfecto, usamos menos la memoria propia, y pasamos más rápido de la pregunta a la respuesta, sin ese momento de duda que antes nos obligaba a pensar un poco más.

Pensemos en algo mucho más simple y cotidiano, que no tiene nada que ver con textos ni con inteligencia artificial: el GPS. A nadie le importa demasiado si el GPS eligió la ruta más corta o no; lo usamos y listo. Pero desde que lo llevamos en el bolsillo, la mayoría dejamos de armar en la cabeza el mapa de una ciudad, de memorizar calles, de saber ubicarnos sin la pantalla. El contenido —esta ruta o la otra— nunca fue el problema. El cambio real es otro: perdimos, sin darnos cuenta, una costumbre que antes ejercitábamos todo el tiempo. Eso es justo lo que señala McLuhan, y es lo mismo que pasa con la inteligencia artificial: no importa tanto qué tan bueno sea cada texto que nos da, sino qué costumbre de pensar por cuenta propia vamos dejando de ejercitar con solo tenerla siempre a mano.

Por eso ni Eco ni McLuhan estarían tranquilos con la idea de que la inteligencia artificial es “neutral”. No lo es nunca. Nos cambia igual, la usemos bien o mal.

Una postura del medio, ni apocalíptica ni integrada

¿Qué nos deja este libro, pensado para hablar de la tele y el cómic, aplicado hoy a la inteligencia artificial? No una respuesta sobre si la IA es buena o mala —Eco tampoco la dio para la televisión—, sino una manera de pararse frente a cualquier tecnología nueva sin necesitar el consuelo de un bando fijo: ni el de quienes la condenan de entrada, ni el de quienes la aplauden sin hacerse preguntas. Esa postura del medio no es la más cómoda: no genera títulos grandes en los diarios ni entusiasmo en las redes. Pero es, mirando hacia atrás sesenta años, la única que sirvió para algo.

Leer a Eco hoy, entonces, no es un capricho de erudito: es recuperar algo que hace falta en la discusión actual sobre la inteligencia artificial. Primero, mirar de cerca antes de juzgar. Segundo, distinguir la herramienta de la marca que la vende y del bando político en que la mete una prensa dividida. Y tercero, no olvidar, gracias a McLuhan, que ningún medio es neutro: usarlo ya nos cambia, digamos lo que digamos con él. La responsabilidad de lo que hacemos con estas herramientas —para qué las usamos, qué autoría reclamamos, qué juicio propio ponemos al usarlas, y qué costumbres nos van dejando— sigue siendo, apocalípticos e integrados aparte, enteramente nuestra.

Nota: Este texto fue elaborado en colaboración con un asistente de IA (Claude), a partir de consignas, revisión y aportes de José M. Ciampagna.