La IA está pudriendo tu cerebro y volviéndote estúpido

¿Cómo estás usando tú la nueva tecnología de IA? Tal vez solo usas cosas como ChatGPT para resumir textos largos o redactar correos electrónicos sin sentido. Pero, ¿qué estás perdiendo al tomar estos atajos? ¿Y está esta tecnología robándonos nuestra capacidad de pensar?

Durante casi 10 años he escrito sobre ciencia y tecnología, y he sido un adoptador temprano de nuevas tecnologías desde mucho antes. Como adolescente a mediados de los años 90, volvía locos a los miembros de mi familia al saturar la línea telefónica durante horas con un módem de acceso telefónico; conectándome a comunidades de tablones de anuncios en todo el país.

Cuando comencé a escribir profesionalmente sobre tecnología en 2016, estaba totalmente a favor de nuestro futuro transhumanista aparentemente inevitable. “Cuando el chip esté listo, quiero que me lo implanten de inmediato”, recuerdo decir con orgullo en nuestra oficina llena de gente. ¿Por qué no mejorarnos a nosotros mismos donde sea posible?

Desde entonces, mi visión general sobre la tecnología ha cambiado radicalmente. Ver cómo una creciente clase de supermillonarios erosiona el carácter democratizador de la tecnología, al mantener el control corporativo sobre lo que usamos y cómo lo usamos, ha cambiado fundamentalmente mi relación personal con ella. Observar posturas filosóficas profundamente perturbadoras como el longtermismo, el altruismo efectivo y el singularitarismo infiltrarse en las mentes de esos hombres ricos y poderosos que controlan el mundo no ha hecho más que arraigar aún más la desigualdad.

Un episodio reciente de Black Mirror realmente destacó los peligros de tener la tecnología tan controlada por intereses capitalistas. A una mujer enferma le implantan un dispositivo cerebral conectado a un servidor en la nube para mantenerla con vida. El sistema se gestiona mediante una suscripción mensual que otorga acceso a las capacidades cognitivas administradas por el implante. Con el tiempo, el coste de la suscripción aumenta cada vez más —y bueno, es Black Mirror, así que puedes imaginar cómo termina todo.

La “basurificación” (enshittification) de nuestro mundo digital ha sido imposible de ignorar. No estás imaginando cosas: Google Search está empeorando.

Pero hasta la aparición de la IA (o, como discutiremos más adelante, los modelos de lenguaje que pretenden parecer inteligencia artificial), nunca me había preocupado realmente una innovación tecnológica por sí misma.

Un artículo reciente analizó cómo estudiantes universitarios están utilizando tecnología de IA generativa como ChatGPT. Escrito por un administrador tecnológico de la Universidad de Nueva York, está lleno de ideas impactantes sobre cómo la IA está sacudiendo los cimientos de las instituciones educativas.

Como era de esperarse, los estudiantes usan ChatGPT para todo, desde resumir textos complejos hasta redactar ensayos completos. Pero una reflexión citada en el artículo me llamó la atención de inmediato.

Cuando se le preguntó a un estudiante por qué dependía tanto de la IA generativa al preparar sus trabajos, respondió:
“Me estás pidiendo ir del punto A al punto B, ¿por qué no usaría un coche para llegar?”

Mi primera reacción fue, por supuesto, ¿por qué no lo harías? Tenía todo el sentido.
Por un segundo.
Y luego pensé: un momento, ¿qué se pierde al ir rápidamente del punto A al punto B en coche?

¿Qué pasa si la forma más rápida de llegar del punto A al B no es la mejor?

Llevemos más allá la analogía. Necesitas ir al supermercado. Está a 10 minutos caminando, o a 3 minutos en coche. ¿Por qué no conducir?

Bueno, el único beneficio de conducir es ahorrar tiempo. Es innegable. Estarás de regreso cocinando tu cena antes de que la persona que fue caminando llegue al supermercado.
Felicitaciones. Te ahorraste unos 20 minutos. En un mundo donde la eficiencia lo es todo, esta es la mejor opción. Usa esos 20 minutos sabiamente.
Pero, ¿cuáles son los beneficios de no conducir y tomarte el tiempo de caminar?

Primero, beneficios ambientales: no usas un coche innecesariamente, no emites gases al aire (ya sea con motor de combustión o eléctrico).
Segundo, beneficios de salud: una pequeña caminata es ejercicio. Nuestra vida sedentaria literalmente nos está matando, así que caminar 20 minutos al día es positivo.
Y también hay beneficios más abstractos: caminar te conecta con tu vecindario. Te hace ir más despacio. Te ayuda a entender mejor la comunidad y el entorno donde vives. Un estudio reciente sugiere que caminar por tu barrio mejora la conexión social y reduce los sentimientos de aislamiento.

Entonces, ¿qué perdemos al usar el coche para ir del punto A al punto B? Potencialmente, mucho.

Pasemos de lo abstracto a lo concreto.

Un artículo en la Columbia Journalism Review entrevistó a casi 20 profesionales de los medios sobre cómo integraban la IA en su flujo de trabajo personal. Las respuestas fueron variadas. Algunos periodistas se niegan a usarla para algo más que transcribir entrevistas, mientras que otros la usan para editar texto, responder preguntas de investigación, resumir artículos científicos, o buscar datos clave en grandes volúmenes de información.

En general, casi todos dijeron que jamás usarían IA para escribir sus artículos. Pero para algunos, todo el resto del proceso creativo era válido para asistencia de IA.

Eso me pareció un poco aterrador. Delegar ciertas etapas del desarrollo creativo a una IA me parecía no solo éticamente cuestionable, sino también como saltarse procesos cognitivos clave que son importantes.

Nunca me he considerado una persona especialmente creativa. No siento que tenga ideas nuevas u originales cuando trabajo. Me veo más como un recopilador. Me gusta encontrar conexiones entre cosas aparentemente no relacionadas. Enlazar ideas y usarlas como bloques para construir mi propio trabajo. Como escritor y periodista, ese proceso es el objetivo.

Un buen ejemplo es una historia que publiqué a fines de 2023 sobre la relación entre el Covid prolongado y los psicodélicos. Todo comenzó con un estudio que relacionaba el Covid persistente con anormalidades de serotonina en el intestino. Como me interesa la ciencia de los psicodélicos —y sabiendo que estos afectan los receptores de serotonina— me pregunté si podría haber una relación entre estos temas.

Meses después, conocí a alguien que se trataba con psicodélicos para su Covid prolongado. Tras una entrevista fascinante, empecé a investigar estudios para entender cómo esos compuestos afectan el cuerpo y si podían asociarse al tratamiento del Covid.

Encontré algunas asociaciones interesantes. Me tomó semanas de lectura, entrevistas y reflexión.
¿Pudo una IA haberme ayudado a desarrollar esa historia?
No. Porque en última instancia, la historia se basó en asociaciones nuevas entre ideas distintas, unidas por una experiencia subjetiva.

Y es esta idea de novedad lo que es clave para entender por qué la IA moderna no es realmente inteligencia, sino una simulación de inteligencia.

ChatGPT, y todos sus clones que han surgido en los últimos años, son una forma de tecnología conocida como LLM (por sus siglas en inglés). A riesgo de enfurecer a quienes trabajan en este campo increíblemente complejo, voy a simplificar peligrosamente cómo funcionan estas cosas.

Es importante saber que cuando le haces una pregunta a un sistema como ChatGPT, no entiende lo que estás preguntando. La respuesta que genera es simplemente una simulación de lo que “calcula” que una respuesta debería parecer, basada en un gigantesco conjunto de datos.

Entonces, si le preguntara al sistema algo como “¿De qué color son los gatos?”, el sistema buscaría en el mundo de textos existentes sobre gatos y colores para construir una respuesta que se asemeje a cómo la mayoría de esos textos hablan del tema. El sistema genera su respuesta palabra por palabra, construyendo algo que nos suena coherente a los humanos, basándose en la probabilidad estadística de qué palabra debería venir después de la anterior. No está pensando. Está imitando.

Lo que estos sistemas de IA generativa están escupiendo son ensaladas de palabras, combinaciones probabilísticas de lo que “creen” que debe ser una respuesta, basándose en millones de libros y páginas web ya publicadas.

Dejando de lado por un momento la precisión de esas respuestas, lo que más me interesa (o preocupa) son las etapas cognitivas que esta tecnología nos permite saltarnos.

Durante miles de años hemos usado tecnología para mejorar nuestra capacidad de manejar tareas complejas. A eso se le llama descarga cognitiva (cognitive offloading), y es tan simple como escribir algo en una libreta o guardar un número de teléfono en tu celular. Hay ventajas y desventajas, y los científicos han estudiado este fenómeno durante años.

Y desde que lo hacemos, hay gente que critica la práctica. El legendario filósofo griego Sócrates era famoso por su escepticismo respecto a la escritura. Creía que el conocimiento surgía del diálogo, así que escribir era algo reductivo. Incluso llegó a decir (según su alumno Platón, quien sí escribía) que escribir nos hace más tontos:

“Este invento producirá el olvido en las mentes de quienes lo usen, porque dejarán de ejercitar la memoria. Confiarán en la escritura, que viene de afuera y no forma parte de ellos, y eso desalentará el uso de su propia memoria interna. Has inventado un elixir no de la memoria, sino del recordatorio; y ofreces a tus alumnos la apariencia de sabiduría, no la verdadera sabiduría, porque leerán muchas cosas sin aprender realmente, y parecerán sabios, pero en realidad serán ignorantes y difíciles de tratar, porque no son sabios, solo lo parecen.”

(Platón citando a Sócrates)

Casi cada avance tecnológico en la historia humana ha sido acompañado de alguien diciendo que será dañino. Las calculadoras destruyeron nuestra capacidad para hacer cálculos. El GPS corrompió nuestra memoria espacial. Las máquinas de escribir mataron la escritura a mano. Los procesadores de texto mataron a las máquinas de escribir. El video mató a la estrella de la radio.

¿Y qué hemos perdido? Bueno, si nos centramos en la escritura, por ejemplo, un estudio de 2020 afirmó que la actividad cerebral es mayor al escribir a mano que al teclear. Y un estudio de 2021 sugirió que la retención de memoria es mejor cuando se usa papel y lápiz, en lugar de una tablet con stylus. Así que sí hay intercambios cada vez que usamos una herramienta tecnológica para descargar una tarea cognitiva.

Hay una historia muy citada sobre el periodista gonzo Hunter S. Thompson. Puede ser apócrifa, pero es significativa. Se dice que una vez se sentó a escribir a máquina todo El Gran Gatsby, palabra por palabra. Según él, quería saber qué se sentía escribir una gran novela.

No quiero ponerme cursi, pero aquí es donde todo se reduce a lo esencial:
¿Qué se siente pensar? ¿Qué se siente ser creativo? ¿Qué se siente entender algo?

Una entrevista reciente con Satya Nadella, CEO de Microsoft, revela cuán profundamente la IA ha infiltrado su vida y trabajo. No solo usa una docena de agentes personalizados de IA para gestionar cada parte de su flujo de trabajo —desde resumir correos hasta organizar su agenda— sino que incluso usa IA para consumir pódcast rápidamente camino al trabajo. En lugar de escuchar el pódcast, sube las transcripciones a un asistente de IA y conversa con él sobre la información mientras va en camino.

¿Para qué escuchar un pódcast si puedes obtener el resumen?
¿Para qué leer un libro si puedes escucharlo en velocidad x2?
¿O mejor aún, ver la película?
¿O simplemente leer la entrada de Wikipedia?
¿O mejor aún, pedirle a una IA que resuma la entrada de Wikipedia?

No estoy aquí para juzgar cómo cada uno usa la tecnología. Haz lo que quieras con ChatGPT. Pero por un momento, considera qué podrías estar omitiendo al correr del punto A al B.

Claro, puedes darle a ChatGPT una serie de instrucciones cada vez más detalladas, añadir complejidad a su resumen de un artículo científico o de un pódcast. Pero, ¿en qué momento esos prompts se vuelven tan minuciosos que mejor sería leer el artículo completo tú mismo? Si haces que la IA escanee y resuma algo, ¿qué se está perdiendo? Si algo valió la pena ser escrito, ¿no valdrá la pena ser leído?

Si hay una forma más concisa de decir algo, quizás deberíamos usarla.
Pero entonces… ¿qué estamos sacrificando en el proceso?

Ted Chiang, en un artículo magistral para The New Yorker, resumió perfectamente la contradicción fundamental en el corazón de los sistemas de IA generativa modernos. Él argumenta que el lenguaje, y la escritura, existen para comunicar. Cuando escribimos un correo, esperamos que alguien lo lea y piense en él. Pero los sistemas de IA modernos (o estas simulaciones de inteligencia) están borrando nuestra capacidad de pensar, considerar y escribir.

¿A dónde nos lleva esto?

“Estamos entrando en una era donde alguien puede usar un modelo de lenguaje para generar un documento a partir de una lista con viñetas, y luego enviarlo a otra persona que usará otro modelo de lenguaje para condensar ese documento en otra lista con viñetas.
¿Puede alguien argumentar seriamente que eso es una mejora?”