El filósofo recordó que el capitalismo es un sistema no solo de satisfacción, sino de creación de necesidades, por lo que "si los algoritmos que se presentan como la respuesta a nuestros deseos están en realidad sintonizados para optimizar y, por lo tanto, para monetizar nuestro compromiso con la plataforma, entonces el patrón de consumo resultante es cualquier cosa menos democrático".
Con ese criterio, "continuamos siendo, en una medida mayor de lo que desearíamos, seres previsibles al alcance de los calculadores".
Por otra parte, el disertante planteó que el problema radica en que los algoritmos hacen predicciones que reflejan los patrones del pasado y no contemplan las aspiraciones ni deseos de cambios futuros, lo que representa un riesgo para la democracia.
"La democracia no es la traducción inmediata y agregada de lo que decidimos individualmente en el pasado. El carácter dinámico y transformador de la vida democrática incluye un elemento de cambio, descubrimiento y emergencia por lo que no sirve un sistema pensado para hacernos descubrir únicamente lo que ya sabemos. Los humanos, no aspiramos sólo a reflejar lo que hay, sino a cambiar ciertas cosas de un modo intencional. Por lo tanto, la gobernanza algorítmica podría ser muy útil para una concepción meramente agregativa de la democracia, pero parece muy limitada si tenemos una idea más deliberativa de la vida política".
Recordó que la democracia no es la traducción inmediata de lo que decidimos individualmente en el pasado: "¿Cómo entender la realidad de nuestras sociedades sin comprender las injusticias, las asimetrías y nuestra intención de cambiarla? ¿Estamos dispuestos a que los datos de los algoritmos conviertan el pasado en el futuro?", preguntó para luego agregar que "en la era digital lo que está en juego es nuestro derecho al futuro".
"La inteligencia artificial se debería manifestar también en contextos de imprevisibilidad y estamos muy lejos de eso. Un algoritmo solo puede procesar problemas redefinidos, lo inesperado permanece invisible", por lo tanto no puede ser una garantía para una democracia que "debe mantener abiertas las posibilidades de decisión futura", concluyó.
