El peligro oculto de los grandes volúmenes de datos

Por Carlo Ratti & Dirk Helbing. Publicado originalmente el 16 de agosto de 2016 en Project Syndicate.

CAMBRIDGE – En la teoría del juego, el «precio de la anarquía» describe cómo la conducta egoísta de los individuos dentro de un sistema mayor tiende a reducir la eficiencia de ese sistema. Es un fenómeno ubicuo al que casi todos nos enfrentamos, en cierta forma, de manera regular.

Por ejemplo, si usted es un urbanista a cargo de la gestión del tránsito, existen dos maneras en las que puede ocuparse de los flujos de tránsito de su ciudad. Por lo general, una estrategia centralizada y vertical -que abarque a todo el sistema, identifique cuellos de botella y haga cambios para eliminarlos- será más eficiente que simplemente dejar que los conductores individuales tomen sus propias decisiones sobre la marcha, con la presunción de que estas elecciones, además, conducirán a un resultado aceptable. La primera estrategia reduce el costo de la anarquía y hace un mejor uso de toda la información disponible.

El mundo hoy está inundado de datos. En 2015, la humanidad produjo tanta información como la que se había generado en todos los años previos de la civilización humana. Cada vez que enviamos un mensaje, hacemos una llamada o realizamos una transacción, dejamos rastros digitales. Nos estamos acercando aceleradamente a lo que el escritor italiano Italo Calvino proféticamente llamó la «memoria del mundo»: una copia digital completa de nuestro universo físico.

En la medida que Internet vaya expandiéndose a nuevos ámbitos del espacio físico a través de la Internet de las cosas, el precio de la anarquía se convertirá en una métrica crucial en nuestra sociedad, y la tentación de eliminarlo con el poder del análisis de grandes volúmenes de datos se volverá más fuerte.

Abundan los ejemplos. Consideremos la acción familiar de comprar un libro online a través de Amazon. Amazon tiene una montaña de información sobre todos sus usuarios -desde sus perfiles y sus historiales de búsqueda hasta las oraciones que resaltan en sus libros electrónicos- que utiliza para predecir lo que ellos podrían querer comprar la próxima vez. Como en todas las formas de inteligencia artificial centralizada, los patrones anteriores se usan para predecir patrones futuros. Amazon puede ver los diez últimos libros que compramos y, cada vez con más precisión, sugerir lo que podríamos querer leer a continuación.

Pero aquí deberíamos considerar qué es lo que se pierde cuando reducimos el nivel de anarquía. El libro que resultaría la mejor lectura después de los diez anteriores no es un libro que encaja prolijamente en un patrón establecido, sino más bien un libro que sorprende o nos desafía a ver el mundo de una manera diferente.

A diferencia del escenario del flujo de tránsito que se describe más arriba, las sugerencias optimizadas -que suelen representar una profecía auto-cumplida de nuestra próxima compra- tal vez no sean el mejor paradigma para la búsqueda de libros online. El gran volumen de datos puede multiplicar nuestras opciones a la vez que deja afuera cosas que no queremos ver, pero descubrir ese onceavo libro por pura casualidad puede tener sus ventajas.

Lo que es válido para la compra de libros también es válido para muchos otros sistemas que se están digitalizando, como nuestras ciudades y sociedades. Los sistemas municipales centralizados hoy utilizan algoritmos para monitorear la infraestructura urbana, desde los semáforos y el uso del subterráneo hasta la eliminación de residuos y el suministro de energía. Muchos alcaldes en el mundo están fascinados con la idea de una sala de control central, como el centro de operaciones diseñado por IBM en Río de Janeiro, donde las autoridades de la ciudad pueden responder a información fresca en tiempo real.

Pero cuando los algoritmos centralizados llegan a controlar cada faceta de la sociedad, la tecnocracia impulsada por los datos amenaza con imponerse a la innovación y la democracia. Esto debería evitarse a toda costa. La toma de decisiones descentralizada es crucial para el enriquecimiento de la sociedad. La optimización impulsada por los datos, por el contrario, extrae soluciones a partir de un paradigma predeterminado que, en su forma actual, suele excluir las ideas transformacionales o contradictorias que hacen avanzar a la humanidad.

Una cierta dosis de aleatoriedad en nuestra vida permite que surjan nuevas ideas o modos de pensar que, de otra manera, nunca aparecerían. Y, en una escala macro, esto es necesario para la vida misma. Si la naturaleza hubiera utilizado algoritmos predictivos que impidieran la mutación aleatoria en la replicación del ADN, probablemente nuestro planeta todavía estaría en la etapa de un organismo unicelular muy optimizado.

La toma de decisiones descentralizada puede crear sinergias entre la inteligencia humana y la inteligencia artificial mediante procesos de co-evolución natural y artificial. La inteligencia distribuida a veces podría reducir la eficiencia en el corto plazo, pero en definitiva conducirá a una sociedad más creativa, diversa y resiliente. El precio de la anarquía es un precio que vale la pena pagar si queremos preservar la innovación a través del hallazgo fortuito.