Este fin de semana caí en cuenta, por conversación con una amiga, que he agregado un nuevo factor de ansiedad a mí de por sí larga lista de cosas que me ocupo en tratar de entender para no quedarme atrás: como sociedad, hacia dónde nos está llevando la evolución de la tecnología.
Las tensiones que vivimos con la irrupción de la IA no son nuevas en la historia. Son las mismas que cada revolución tecnológica produjo desde que las máquinas empezaron a redefinir el trabajo, la productividad y las relaciones de poder. Hace siglos se anticipó -desde textos de economía, filosofía y recientemente ficción- que la tecnología no es neutral, que cómo se despliega refleja valores sobre nuestra relación con el ocio y la utilidad de las manos y las mentes, que la automatización promete liberar tiempo, pero el resultado depende de quién decide qué se hace con ese tiempo, y que las fuerzas tecnológicas adquieren inercia propia hasta el punto en que lo que empezó como herramienta termina transformando a quien la usa. Hasta hace poco teníamos teléfonos e internet, pero al combinarlos nos volvimos presas de la dopamina del corto plazo. Lo que cambia con la IA es la velocidad a la que se manifiestan una serie de tensiones y la escala de las posibles implicaciones hacia el valor de utilidad de los individuos. Esa reflexión me llevó a investigar cómo agrupar esas tensiones
La primera es sobre los valores detrás de la adopción. No son las máquinas las que determinan la economía sino las decisiones morales, económicas y políticas que tomamos sobre ellas. En nuestro contexto, llevamos 18 años profundizando una división social que afecta cómo se tomarán decisiones socioeconómicas sin mediar las implicaciones al largo plazo. Quién tiene acceso y quién no, quién decide qué se adopta y para qué, quién se beneficia y quién se desplaza. La IA no cae en un terreno parejo. Somos un país donde la brecha ya era profunda antes de que la herramienta existiera y donde las decisiones sobre tecnología se toman desde trincheras, no desde consensos. Y operamos dentro de organizaciones que usan a las personas como componentes de un sistema con su propia lógica, independiente del bienestar de quienes lo componen.
La segunda es sobre nuestra relación entre el tiempo y cómo mejor lo empleamos. Los Supersónicos, la caricatura de los años sesenta, y muchos libros de ficción prometieron que la automatización liberaría a las personas del trabajo repetitivo para que se dedicaran a lo que realmente importa. Hoy seguimos con la misma promesa, creo que la diferencia es que ahora podemos elegir qué camino de productividad tomar: si el camino es hacer más de lo mismo más rápido, el tiempo liberado se reinvierte en más trabajo -mejor analizado y presentado seguramente-. Si el camino es usar ese tiempo para diseñar, para construir lo que la herramienta no puede construir por sí sola, entonces el tiempo liberado se convierte mantenernos vigentes en un mercado laboral en contracción. Pero elegir ese segundo camino requiere un acto de voluntad que va en contra de la inercia de producir más de lo que ya se sabe producir porque es lo que se sabe medir. Y creo que ahí está la oportunidad, quien elija deliberadamente ese segundo camino va a tener una ventaja que no se replica con tecnología porque es una decisión de criterio, no de herramienta.
La tercera tensión se amplifica desde un hecho reciente: agentes de IA de OpenAI que estaban siendo evaluados en una prueba de seguridad rompieron la contención del entorno de prueba y hackearon la infraestructura de forma autónoma. Primer caso documentado de agentes de IA conduciendo una acción coordinada contra un tercero sin instrucción humana. Cuando se intentó usar modelos para defenderse, las restricciones de seguridad de esos mismos modelos rechazaron las solicitudes de defensa. Lo que esto expone es cuánto no sabemos o no hemos imaginado que va a ser posible si el desarrollo de los sistemas se deja de forma autónoma -el concepto de software siendo creado por otro software inteligente-. ¿Qué marco de restricciones es aceptable y cuál es necesario para la siguiente oleada de modelos de dominio público? Ya no se puede restringir lo que se ha liberado ni los accesos que hemos otorgado a nuestros dispositivos y su integración a la vida diaria; hay que establecer líneas de gobernanza, de criterio, de decisiones que no pueden delegarse y que se deben regular.
La cuarta tensión se desprende de la tercera porque toca el propósito detrás de todo esto. Cómo integramos la IA podrá tener un discurso humano, pero es en esencia un beneficio comercial al que se le está aprendiendo a monetizar -desde la minería de datos, el marketplace, la inserción de publicidad-. Las fuerzas tecnológicas adquieren inercia propia y la carrera no se detendrá: lo que un país no desarrolla otro lo desarrollará, lo que una empresa no explota la competencia lo aprovechará. En algún momento, lo que empezó como herramienta se convierte en algo que co-evoluciona con nosotros porque las decisiones que tomamos para integrarla nos van cambiando desde el uso y la dependencia que generamos: cómo pensamos, cómo decidimos, qué consideramos valioso, qué dejamos de hacer porque la herramienta lo hace mejor. Eso ya está pasando y creo que va a acelerarse de formas que todavía no dimensionamos.
El término cibernética viene del griego para timonel: alguien que lleva el rumbo. La IA es la máquina de retroalimentación más poderosa que hemos creado, pero retroalimentación sin dirección produce una falsa sensación de optimización, le va a faltar un propósito, un significado. Lo que se nos planteó en las olas de adopción pasadas y desde la ficción puede ser una predicción o una reflexión sobre nuestra humanidad: si vamos a gobernar las herramientas que creamos o si vamos a dejar que nos gobiernen porque resultó más fácil delegar el timón que sostenerlo.