Inteligencia artificial, ética y poder

Tendría yo unos quince o dieciséis años, cursaba tercero o cuarto del secundario, cuando un profesor de geografía —ya no recuerdo a propósito de qué tema— nos hizo en clase una pregunta que parecía un chiste. Preguntó cuántos de nosotros, después de ir al baño, nos habíamos detenido alguna vez a pensar adónde iba el agua que se llevaba la descarga. Hubo risas, alguna respuesta vaga sobre cloacas, y enseguida quedó claro que ninguno se lo había preguntado nunca en serio. El profesor —que tenía cierta inclinación dramática, recuerdo— dijo entonces algo que no olvidé. Dijo que apretar el botón del inodoro era uno de los gestos más característicos de la falta de conciencia social moderna: un acto mágico, en el sentido literal de la palabra, porque suponía que algo, en virtud de un mecanismo invisible, dejaba de existir. El agua se iba. El contenido desaparecía. El problema, decía, no es que no sepamos adónde va. El problema es que no nos interesa saberlo.

Pienso en aquella clase cada vez que, en los últimos meses, alguien me pregunta qué opino de la inteligencia artificial. Y pienso en ella porque, a esta altura, me cuesta no ver en la IA el mismo gesto. El mismo apretar el botón. Un estudiante le pide a ChatGPT que le redacte un trabajo práctico, lo copia, lo entrega. Un docente le pide a la misma herramienta que le arme una secuencia didáctica, la imprime, la usa. Una madre, cansada, le pide que le sugiera cómo responderle a su hija adolescente. En cada uno de esos gestos hay un mecanismo que parece magia. Algo aparece de la nada, terminado, eficiente, listo para ser usado. Y, como con el inodoro, lo que no aparece —lo que el sistema se encarga de no mostrarnos— es del otro lado del caño.

En los últimos tiempos, cada vez que en una reunión de equipo, en un encuentro con familias o en una conversación de pasillo aparece el tema, la discusión queda atrapada en una versión empobrecida del problema. Para un sector, la IA representa el deterioro cognitivo de toda una generación: los chicos ya no leen, no piensan, no escriben, no se esfuerzan. Para otro, en cambio, la IA es una herramienta poderosa que hay que aprender a usar, integrar a las prácticas, alfabetizar. Entre el apocalipsis y la celebración, la discusión se vuelve previsible y, sobre todo, tranquilizadora. Hace foco en los usos, en los riesgos individuales, en la responsabilidad del estudiante, del docente o de la familia. Como si lo que estuviera en juego fuera, otra vez, una cuestión de criterio personal frente a una novedad tecnológica.

Pero hay algo que esa discusión deja afuera, y que tal vez sea, justamente, lo más importante. Lo que está en juego con la inteligencia artificial no es, en lo fundamental, una cuestión cognitiva ni siquiera tecnológica. Es una cuestión ética y de poder. Quién la diseña, con qué dinero, sobre qué cuerpos, en qué territorios, para beneficio de quién. Y, sobre todo, qué tipo de humano se está produciendo a través de ella, sin que nadie nos haya consultado al respecto.

Pienso esto y se me vienen a la cabeza dos escenas que, a primera vista, no parecen tener relación entre sí, ni con la escuela, ni entre ellas.

La primera ocurrió hace unos días en Las Vegas. Del 21 al 24 de mayo se celebraron los Enhanced Games, una competencia deportiva financiada, entre otros, por Peter Thiel —el mismo magnate tecnológico que estuvo hace algunas semanas reunido con Javier Milei— y por Donald Trump Jr. La premisa del evento es bastante explícita: a diferencia de los Juegos Olímpicos, los atletas pueden consumir todas las sustancias prohibidas que quieran. Esteroides, testosterona, péptidos, lo que sea. La promesa era que esa liberación química iba a producir lo que el deporte tradicional, atado a sus reglas anticuadas, no podía: récords mundiales, marcas imposibles, una nueva era del cuerpo humano. La realidad fue otra. Un solo récord no oficial en natación —que ni siquiera será reconocido por las federaciones internacionales— y, en el resto de las disciplinas, marcas que ni se acercaron a las de los Juegos Olímpicos de París. El velocista que prometía destruir el récord de Bolt corrió los cien metros en 9.97. Las acciones de la empresa, que ahora cotiza en bolsa, cayeron un cincuenta por ciento en un día. La fantasía del superhombre acelerado por la química quedó en exactamente eso, una fantasía con muy mala prensa y muy malos números.

La segunda escena es local, y mucho más silenciosa. En octubre del año pasado, OpenAI y una empresa argentina llamada Sur Energy firmaron una carta de intención para construir en la Patagonia el primer data center de inteligencia artificial a gran escala de América Latina. El proyecto, llamado Stargate Argentina, se enmarca en el Régimen de Incentivos a las Grandes Inversiones y prevé una capacidad de hasta quinientos megavatios y una inversión de veinticinco mil millones de dólares. Hace unas semanas, la misma firma de capital anunció una inversión de mil millones de dólares en una empresa que desarrolla data centers flotantes alimentados por energía oceánica. Lo que estas inversiones nombran, en su conjunto, es algo que la palabra nube se encarga de ocultar con bastante eficacia: que la inteligencia artificial no flota. Que requiere territorios, energía, agua, minerales, suelo. Que consume cantidades de electricidad que ningún sistema educativo del mundo podría justificar como gasto. Y que la Argentina, en este reparto, no aparece como sede de desarrollo tecnológico sino, mucho más modestamente, como territorio disponible.

Hay un detalle que tal vez convenga sumar, porque ayuda a ver el conjunto. La misma firma que financia los data centers flotantes y los Enhanced Games es la firma detrás de una empresa que se llama Palantir. El nombre, tomado de Tolkien, designa unas piedras videntes a través de las cuales se podía ver lo que sucedía a distancia, y a veces ser manipulado por quien estaba del otro lado. Lo que hace Palantir, en términos llanos, es construir software para integrar bases de datos antes separadas —cámaras, registros bancarios, expedientes policiales, redes sociales, movimientos migratorios— y producir, a partir de eso, predicciones y recomendaciones de acción. Sus clientes principales son agencias estatales: el Departamento de Defensa de los Estados Unidos, la CIA, el ICE, el ejército israelí. Vista en conjunto, la cartera del mismo inversor empieza a dibujar una figura: data centers en la Patagonia, cuerpos dopados en Las Vegas, y, atravesándolo todo, un sistema que ve, predice y decide sobre poblaciones enteras. No son inversiones desconectadas. Son piezas de un mismo proyecto. Uno bastante más antiguo, por otra parte, que su envoltorio tecnológico. La novedad no está en la lógica de vigilancia y control, que tiene siglos. La novedad está en quién decide ahora dónde apuntar el ojo.

Hace algunas semanas, el papa León XIV publicó su primera encíclica. Se llama Magnifica humanitas y está dedicada, casi por entero, al impacto de la inteligencia artificial sobre la dignidad humana. No voy a hacer aquí una reseña del documento, ni voy a entrar en el terreno teológico, en parte porque no me corresponde y en parte porque me interesa otra cosa. Hay una frase, en el corazón del texto, que me parece que vale la pena traer. Dice así: la tecnología no es neutra, “porque asume el rostro de quien la concibe, la financia, la regula y la utiliza”. Es una frase que, en otro contexto, podría firmar cualquier pedagogo crítico de los últimos cincuenta años. Pero el hecho de que venga de donde viene —de una institución que muchas veces tendió a pensar la técnica en términos abstractos, casi morales— le da un peso particular. Lo que la encíclica nombra, sin demasiados eufemismos, es algo que en el ámbito educativo cuesta nombrar: que la pregunta por la IA no es una pregunta sobre los usos, sino sobre las manos.

Vuelvo entonces a la escuela. Lo que se nos pide ahí, cada vez con más insistencia, es que diseñemos protocolos. Que decidamos qué hacer con un trabajo práctico hecho con ChatGPT. Que actualicemos las consignas, los instrumentos de evaluación, los acuerdos institucionales. Y está bien, hay que hacer todo eso. Pero hay algo que la pregunta por el protocolo deja afuera, y que es probablemente lo que más nos cuesta sostener. Pedirle a un chico de quince años que renuncie por convicción individual a una herramienta que el resto del mundo adulto está integrando sin culpa a su propia vida laboral es, como mínimo, deshonesto. Y discutir con él si copió o no copió, mientras del otro lado se diseñan paralelamente data centers, juegos liberados y sistemas de vigilancia, es discutir el botón en lugar del caño.

La escuela, lo dije en otras columnas, es una institución extrañamente contracultural. Sostiene cosas que el resto de la época ya no sostiene. Sostiene que aprender lleva tiempo. Que el cuerpo importa. Que hay un otro del otro lado, no una interfaz. Que algunas cosas se transmiten y otras no se pueden producir por aceleración. En un mundo en el que se invierten miles de millones de dólares para construir, en la Patagonia, una infraestructura cuyo objetivo final es prescindir de buena parte del trabajo intelectual humano; en un mundo en el que se diseñan competencias deportivas para demostrar que el cuerpo puede más; en un mundo en el que un mismo capital ve, predice y decide; en ese mundo, la escuela queda en un lugar incómodo. El de seguir creyendo que un chico que escribe a mano un párrafo flojo está haciendo algo que un chico que pega un párrafo perfecto de ChatGPT no está haciendo.

Tal vez la pregunta, entonces, no sea qué hacer con la inteligencia artificial en el aula. Tal vez la pregunta sea qué tipo de adultos vamos a ser, frente a chicos que ya no nos preguntan si pueden usarla. Porque del otro lado del caño nunca hubo magia. Hubo, hay, siempre hubo, alguien decidiendo.