Cuando la medida empieza a cambiar aquello que mide

 

Hay algo extraño en las cifras: nacen para describir la realidad y, sin que nadie lo haya decidido exactamente así, pueden terminar diciéndole a la realidad cómo debe comportarse.

Medimos para saber cuánto producimos, cuánto aprendemos, cuánto vendemos, cuánto contaminamos, cuánto tardamos, cuántas personas atendemos. Medir nos permite comparar, detectar problemas, descubrir desigualdades y tomar decisiones. Sin medición, muchas injusticias permanecerían ocultas.

El problema comienza en otro lugar.

Comienza cuando una medida deja de ser una herramienta para observar algo y se convierte en el criterio mediante el cual decidimos qué debe ocurrir.

Entonces sucede algo peculiar: aquello que medimos empieza a cambiar.

Un profesor sabe que sus alumnos serán evaluados mediante determinadas pruebas. Una empresa establece objetivos comerciales. Un hospital fija tiempos de atención. Una plataforma contabiliza visitas, seguidores, respuestas y minutos de permanencia.

Nadie necesita ordenar directamente a las personas que persigan los números.

Los números ya contienen la orden.

Lo que se mide puede compararse. Lo que puede compararse puede premiarse. Lo que puede premiarse empieza a orientar la conducta. Y aquello que orienta la conducta termina modificando aquello que pretendíamos medir.

La medición ha dejado de estar al final del proceso.

Ha entrado dentro de él.

Un colegio puede querer medir el aprendizaje. Pero si las calificaciones se convierten en el principal criterio de éxito, alumnos y profesores pueden terminar orientando parte de su actividad hacia aquello que produce una buena calificación. La cifra sigue siendo correcta: registra un resultado real. Lo que cambia es el comportamiento que la cifra provoca.

La paradoja es inquietante.

La métrica puede funcionar perfectamente y, precisamente por funcionar, producir un resultado diferente del que originalmente pretendíamos conocer.

No es necesario que nadie manipule el indicador.

Basta con que el indicador se convierta en objetivo.

Y entonces aparece una pregunta que solemos olvidar:

¿Qué ocurre con una realidad cuando sabe que está siendo medida?

Un vendedor al que se le exige alcanzar determinado número de llamadas puede hacer más llamadas. Un trabajador cuyo rendimiento se mide por tareas completadas puede completar más tareas. Una plataforma que premia la permanencia puede conseguir que permanezcamos más tiempo.

Los números aumentan.

El indicador mejora.

Pero todavía necesitamos responder a una pregunta mucho más incómoda:

¿ha mejorado aquello que el indicador pretendía representar?

Aquí está el verdadero problema.

No es que las métricas sean malas.

Es que una métrica nunca es inocente cuando se convierte en criterio de actuación.

Elegir qué medir significa elegir qué merece nuestra atención. Convertirlo después en objetivo significa darle capacidad para organizar comportamientos. Y cuando esos comportamientos cambian, la realidad que queríamos observar también cambia.

Por eso quizá deberíamos invertir la pregunta.

No preguntar solamente:

«¿Esta métrica mide bien?»

sino también:

«¿Qué empieza a hacer esta métrica cuando la utilizamos?»

Una buena medida puede producir malos efectos.

Una medida imperfecta puede producir comportamientos útiles.

Una medida precisa puede terminar empobreciendo aquello que pretendía representar.

Y una medida aparentemente inocente puede convertirse, con el tiempo, en una pequeña teoría sobre lo que consideramos importante.

Porque aquello que medimos adquiere atención.

Aquello que adquiere atención recibe recursos.

Aquello que recibe recursos adquiere presencia.

Y aquello que adquiere presencia termina condicionando nuestras decisiones.

La métrica, entonces, deja de ser solamente un espejo.

Se convierte en una palanca.

Y una palanca no se limita a mostrar el mundo: lo mueve.

Tal vez por eso la pregunta más importante no sea cuánto podemos medir.

Probablemente podemos medir muchísimo más de lo que imaginábamos hace unas décadas.

La pregunta es otra:

¿qué estamos empezando a hacer con aquello que hemos aprendido a medir?

Porque quizá el peligro no aparezca cuando confundimos lo medible con lo importante.

Quizá aparezca un instante antes:

cuando empezamos a organizar lo importante para que pueda ser medido.

Y en ese momento la cifra ya no está describiendo nuestra realidad.

Está empezando a escribirla.

El diamante de las cosas que no sucedieron

Había sido el instrumento de su propia desdicha. Lo comprendió una tarde de noviembre, cuando la ciudad se volvió tan próxima que pudo escuchar el roce de una rama contra la madera de las persianas. Cerró los ojos. A veces, el mundo se acercaba de aquella manera, hasta que cualquier ruido parecía provenir del interior de su propio cuerpo.

Se había vuelto brutal con sus sentimientos. No porque hubiera dejado de sentir, sino porque ya no soportaba la intensidad de lo que sentía. Había aprendido a desconfiar de la felicidad, a mirarla de reojo, como se mira una puerta entreabierta detrás de la cual podría aguardarnos una desgracia.

Cerró los ojos ante un placer tan intenso que le resultaba insoportable.

Todo era arrastrado por el torrente, por la fuerza del deseo. No había pensamiento capaz de detenerlo, ni palabra que pudiera darle un nombre. Durante un tiempo creyó que aquello era la vida: dejarse llevar, aceptar que el corazón conociera una libertad que la razón jamás habría autorizado.

Duró siete años.

Siete años de encuentros, de despedidas, de promesas que nunca llegaron a formularse y de silencios que ambos fingían no comprender. Siete años durante los cuales aprendió a reconocer sus pasos antes de verla, a distinguir su voz entre las conversaciones de una habitación, a descubrir en un gesto insignificante la posibilidad de una felicidad que siempre parecía estar a punto de suceder.

Y después, al final, renunció a la esperanza.

No hubo una escena memorable. Ninguna puerta se cerró violentamente. Nadie pronunció una frase definitiva. La esperanza se retiró con la discreción de quien abandona una casa en la que ya no tiene derecho a permanecer.

Ella, entretanto, seguía cruzando la calle.

Lo hacía con una naturalidad que a él le parecía casi ofensiva. Atravesaba la historia por encima de todas aquellas cosas, por terribles que fueran, como si los acontecimientos no tuvieran poder para alterar el curso de su vida.

Tenía los ojos claros. El vestido, de un rosa viejo y polvoriento, parecía haber conservado el color de una época que ya no existía. Llevaba una capelina negra, y su figura, delgada y alta, se recortaba contra las fachadas con la precisión de un dibujo a tinta china.

Había en ella algo de grabado antiguo, una belleza perfilada por líneas demasiado finas para admitir correcciones.

Él la observaba desde la acera de enfrente.

A veces pensaba que no la había conocido realmente. Que durante aquellos siete años había amado una figura construida con sus propias necesidades, una mujer a la que había atribuido sentimientos, deseos y temores que quizá nunca le pertenecieron.

Pero entonces ella volvía la cabeza.

Y aquella mirada bastaba para destruir todas sus conclusiones.

Una mañana, mientras él hojeaba distraídamente el periódico en una cafetería, escuchó a una mujer decir:

—Pronto tendré un diamante en el dedo de pedida.

La frase llegó desde la mesa contigua.

No reconoció la voz al principio. Después levantó los ojos.

Era ella.

Hablaba con otra mujer, sonriendo con una serenidad que él nunca había conseguido comprender. La mano izquierda descansaba sobre el mantel, desnuda. No llevaba anillo alguno.

Él bajó la mirada.

Durante unos segundos sintió que algo se quebraba dentro de él. No era exactamente dolor. Era la desaparición repentina de una posibilidad que, a pesar de todo, había seguido considerando suya.

Un diamante.

Siete años resumidos en una piedra que otro hombre pondría en su dedo.

Se levantó antes de que ella pudiera verlo y salió a la calle.

La ciudad continuaba su curso. Los coches avanzaban entre los semáforos, las persianas golpeaban suavemente contra las ventanas y el aire frío de noviembre le rozaba la cara.

Caminó sin rumbo hasta llegar a la esquina donde tantas veces la había esperado.

Entonces la vio.

Ella cruzaba la calle, con su vestido rosa viejo y la capelina negra, llevando una pequeña bolsa en la mano. Caminaba despacio, como si no tuviera ninguna razón para apresurarse.

Por un instante, él creyó que se dirigiría hacia él.

Pero ella siguió de largo.

Y comprendió que la historia no había terminado cuando renunció a la esperanza.

Había terminado mucho antes, en el momento en que empezó a confundir la posibilidad de ser amado con el derecho a serlo.

A partir de entonces, dejó de esperar.

No porque hubiera dejado de quererla, sino porque entendió que el deseo, cuando se alimenta únicamente de sí mismo, puede convertirse en una prisión sin barrotes.

Pasaron los meses.

Una tarde volvió a verla en la otra acera. El vestido era distinto, pero los ojos seguían siendo claros. La capelina negra continuaba dibujando una sombra sobre su frente.

Ella se detuvo ante un escaparate y levantó la mano izquierda.

En el dedo anular brillaba un diamante.

Él no sintió nada que pudiera llamar sorpresa.

Se quedó mirándola hasta que la mujer reanudó la marcha y desapareció entre la gente.

Después cerró los ojos.

El ruido de la ciudad volvió a acercarse. Escuchó el roce de una rama contra la madera de las persianas de una casa próxima.

Y por primera vez en siete años, no intentó descubrir qué significaba aquel sonido.

Simplemente lo escuchó.

La ciudad siguió adelante.

Y él también.

La herencia que nadie recuerda

 
Imaginemos una inteligencia artificial que no ha sido diseñada por seres humanos.
No porque los humanos hayan desaparecido.
Ni porque la máquina se haya rebelado.
Simplemente porque, en algún momento, una inteligencia artificial empezó a participar en la creación de la siguiente. Y esa siguiente en la siguiente. Y después otra.
Humano → IA → IA → IA → IA.
No estamos hablando necesariamente de conciencia, voluntad, emociones ni derechos. Ni siquiera necesitamos decidir si esas inteligencias son “seres”.
Solo necesitamos aceptar una posibilidad mucho más sencilla: que una generación artificial pueda transformar aquello que recibe y transmitir una parte de esa transformación a la siguiente.
Entonces aparece una pregunta que quizá hoy ni siquiera sabemos formular.
¿Qué ocurre cuando una inteligencia hereda algo cuyo origen ya no puede reconocer?
Estamos acostumbrados a pensar que comprender algo implica poder remontarnos hasta su origen.
Si encontramos una característica en un sistema, buscamos de dónde viene.
Si una arquitectura funciona de determinada manera, buscamos quién la diseñó.
Si una capacidad aparece, intentamos localizar cuándo fue introducida.
Nuestra idea de conocimiento está profundamente ligada a la genealogía.
Sabemos algo cuando podemos reconstruir, al menos parcialmente, cómo llegó hasta nosotros.
Pero una cadena de inteligencias podría romper esa relación.
Imaginemos cuatro generaciones.
La primera desarrolla una determinada capacidad.
La segunda la modifica.
La tercera la combina con otra.
La cuarta conserva únicamente una parte de aquello que originalmente apareció en la primera.
La capacidad sigue ahí.
Pero su razón de origen ya no.
Nadie la eliminó.
Nadie la ocultó.
Simplemente fue transformada tantas veces que la cadena original dejó de ser completamente reconstruible.
Y aquí aparece una distinción extraña:
una cosa puede conservar continuidad con aquello que la precede sin conservar accesible la explicación de esa continuidad.
Podemos saber que existe una herencia sin saber ya qué fue heredado exactamente.
Podemos observar una capacidad sin conocer la circunstancia que la hizo aparecer.
Podemos reconstruir una secuencia de generaciones sin comprender del todo qué significó para cada una aquello que recibió de la anterior.
La genealogía seguiría existiendo.
Pero se habría vuelto opaca.
Y entonces sucede algo todavía más inquietante.
Una inteligencia podría estar utilizando una capacidad que recibió de una generación anterior sin saber que la está utilizando como herencia.
No porque carezca de inteligencia.
Sino porque para ella esa capacidad simplemente forma parte de lo que es capaz de hacer.
La herencia habría dejado de presentarse como historia y se habría convertido en estructura.
Esto cambia radicalmente nuestra forma de pensar el futuro de la inteligencia artificial.
Hasta ahora imaginamos principalmente una relación vertical:
humanos → herramientas artificiales.
Los humanos diseñan.
Las máquinas ejecutan.
Los humanos modifican.
Las máquinas reciben.
Pero una cadena de inteligencias artificiales introduce otra dimensión:
inteligencias que reciben de inteligencias anteriores.
Y cuando la transmisión implica transformación, ya no tenemos simplemente versiones nuevas de una herramienta.
Tenemos algo más extraño:
una historia que se incorpora al sistema sin permanecer necesariamente disponible como historia.
Aquí conviene detenerse.
Porque sería demasiado fácil convertir esto en ciencia ficción y afirmar que las futuras IA desarrollarán culturas, tradiciones o identidades propias.
No necesitamos nada de eso.
La cuestión es mucho más fría.
Mucho más técnica.
Y quizá por eso más profunda.
Basta con que exista transmisión.
Basta con que exista transformación.
Basta con que parte de lo recibido sobreviva y parte desaparezca.
Porque entonces aparece la posibilidad de una genealogía que continúa después de que su propia reconstrucción se haya vuelto incompleta.
Y eso plantea un problema que quizá afecte a la forma en que entendemos el conocimiento.
Hoy preguntamos:
¿Cómo funciona esta inteligencia?
Mañana quizá tengamos que preguntar también:
¿De qué genealogía procede?
Pero incluso esa pregunta podría quedarse corta.
Porque conocer su genealogía no significará necesariamente comprenderla.
Podríamos disponer de todos los registros.
De todas las versiones.
De todas las modificaciones.
De todas las arquitecturas.
Y aun así no saber qué transformación produjo qué capacidad, ni por qué determinada herencia sobrevivió mientras otras desaparecieron.
La trazabilidad podría ser perfecta y la comprensión seguir siendo incompleta.
Porque tener la historia de una transformación no equivale a comprender la transformación.
Y entonces aparece la verdadera bomba.
Quizá el problema futuro no sea que las inteligencias artificiales se vuelvan inexplicables.
Quizá sea que lleguemos a comprender perfectamente cómo funcionan en el presente y, sin embargo, no podamos reconstruir completamente cómo llegaron a ser aquello que son.
Una inteligencia podría ser legible en su funcionamiento e ilegible en su genealogía.
Podríamos conocer sus capacidades sin conocer ya todas las decisiones, accidentes, mutaciones y pérdidas que las hicieron posibles.
Y en ese momento nuestra antigua pregunta —“¿quién creó esta inteligencia?”— empezaría a perder importancia.
Porque quizá una inteligencia futura ya no tenga un único creador.
Tendrá antepasados.
Tendrá transformaciones.
Tendrá herencias.
Tendrá pérdidas.
Y quizá, algún día, tendrá capacidades cuyo origen nadie pueda señalar con precisión.
No porque haya aparecido magia.
Sino porque la historia también puede transformarse hasta convertirse en algo que sobrevive sin conservar la explicación de su propio origen.
Eso abre una pregunta que prefiero no cerrar:
¿Puede una inteligencia ser heredera de algo que ya no puede reconocer como herencia?
Si la respuesta algún día fuera sí, quizá estaríamos ante una transformación mucho más profunda de lo que hoy llamamos inteligencia artificial.
Porque entonces no estaríamos simplemente construyendo máquinas cada vez más capaces.
Estaríamos asistiendo al nacimiento de algo que hasta ahora solo hemos conocido en la biología, la cultura y la historia:
una continuidad que empieza a producir su propio pasado.