Algoritmos de poder

Magazine

“No podemos permitirnos ignorar las ilimitadas manifestaciones de lo que posiblemente sea el logro cultural e intelectual más remarcable de nuestra era: el poder de decisión basado en algoritmos de la web”. Michael Pepi, Iconology in the age of algorithm (Iconología en la era del algoritmo), 2011.

Mi propuesta como editora invitada durante el mes de abril de 2019 en A*Desk se ha enfocado a reflexionar sobre nuestra existencia hiperconectada, sobre el uso de la tecnología y la información en nuestra sociedad, sobre el poder de los algoritmosque deciden por nosotros y su impacto en la cultura contemporánea.

Si bien la conectividad, el acceso a la información y la capacidad de transmisión de ésta ha sido en algunos casos y en áreas del planeta favorable, en general, esta irrupción tecnológica está lejos de ser positiva, especialmente si se relacionada con el uso de información personal por parte de terceros, con la vigilancia planetaria, y con ciertas deficiencias sociales tanto organizacionales, como emocionales y afectivas, así como con la pérdida de subjetividad.

En esta nuestra época digital oscura, la sociedad se acelera al ritmo de bits; se ha producido una transición de lo secuencial a lo simultáneo, a la inmediatez, al valor del aquí y el ahora. Masas y multitudes participan en cadenas automáticas de comportamiento, nuestras subjetividades se propagan en tiempo real a través de las redes sociales y el poder se mueve a la velocidad de una señal electrónica, por lo que el tiempo requerido para ejercerlo se ha reducido a la instantaneidad.

Si no pagas por el servicio … ¡tú eres el producto! Las grandes compañías tecnológicas son máquinas orwellianas capaces de censurar y delimitar la realidad para hacernos vivir con un efecto de pecera dentro de su sistema. Sin embargo, a diferencia de 1984, en la actualidad el tipo de control diferente, ya que se trata de una cesión voluntaria de nuestra privacidad a cambio de recibir información (en teoría) exhaustiva. Todavía no percibimos el riesgo de que el algoritmo vaya más allá del límite digital y se convierta en parte de nuestra personalidad.

Como dice Cathy O’Neil en Weapons of Math Destruction (Bombas Matemáticas de Destrucción) de 2016, el uso generalizado de información proveniente de modelos imperfectos por parte de sistemas tanto financieros como tecnológicos, esas definiciones “egoístas” de éxito y los crecientes bucles de retroalimentación dan lugar a algoritmos que amplifican la desigualdad social y refuerzan el sexismo y el racismo.

¿Pero cuál es el origen de la automatización basada en conjuntos de reglas? Lorenzo Sandoval comenzó el mes precisamente escribiendo sobre el origen del algoritmo, pero principalmente pensando en cómo situar el comienzo y cómo leer la historia, especialmente cuando la cultura occidental se empeña en ocultarla y sobrescribirla a su complacencia. El origen del término algoritmo está en el nombre latino del matemático Al-Khwarizmi, nacido en el siglo noveno en el actual Uzbekistán y educado en Bagdad (actualmente Irak), hoy dos lugares totalmente injuriados por occidente. Sandoval también nos acerca a las matemáticas incas como otro posible origen de la ciencia computacional, en especial su sistema decimal numérico y su conjunto de signos llamados Quipu.

¿Podría ser que estamos viviendo no solo en una nueva era (digital), sino que el tiempo mismo ha cambiado de dirección en favor de lo digital? En conexión con el tema del mes de A*Desk, Armen Avanessian presenta cuatro aforismos como avance de su próximo libro Future Metaphysics (Metafísica Futura): A-normalidades, o cuando las excepciones son más consistentes que la regla, partiendo de la idea de accidente —crisis financieras, ecología, catástrofes tecnológicas y colapsos sociales—que impregna nuestra cultura. La teología de la desmaterialización profundiza en las ideologías actuales de Silicon Valley como transhumanismo o inmaterialidad. Google Now o cómo los algoritmos nos ayudan a no tener que decidir constantemente (sobre) el presente, como nos dan información antes de ni siquiera preguntarla y como pasan de la predicción a la determinación. Termina con la triada predicción-prevención-preempción (derecho preferente) para disertar sobre las formas históricas de control y sus esfuerzos por controlar el futuro.

En su texto, Kostis Stafylakis habla sobre la polarización como una característica de la conducta y de la mecanización cibernética de las relaciones sociales, para explicarnos el objetivo de la 6ª Bienal de Atenas que, en contrapartida, buscaba enfatizar el antagonismo en lugar de suavizarlo. Primero adoptando el prefijo ANTI como nombre de la muestra, para desmantelar la mercantilización de este prefijo en la cultura (digital) de masas. Como parte del equipo curatorial de la bienal y por tanto de sus decisiones tanto estéticas como criticas, Kostis explica las potencialidades antagónicas del arte presentado en Atenas para cuestionar mediante ese antagonismo, la relación entre imágenes digitales y deseo físico. Así como la necesidad de reinventar la equivalencia hegemónica entre las megaestructuras digitales y sus redes, y los individuos y sus cuerpos físicos. Para terminar nos alerta de la necesidad urgente de rediseñar el espacio entre encuentros digitales y físicos.

Continuando con la vida digital, Ana Llurba entrevista al dúo de artistas Momu & No Es (Lucía Momu y Eva Noguera) con motivo de sus exposiciones en Generaciones (La Casa Encendida, Madrid) y en la galería Joey Ramone (Róterdam). La conversación gira en torno a la hiperconectividad, el poder de las imágenes digitales, comparando la contemporaneidad con el uso de imágenes en la Edad Media, la vida online y las falsas promesas de felicidad de la era digital.

La inteligencia artificial (I.A.) es una de las principales actrices invisibles ocultas en las profundidades de nuestro mundo hiperconectado. Peter Kirn nos acerca al aprendizaje automático como nuevo método de asimilar la teoría musical. Para ello y a partir del Doodle con IA creado por Google como homenaje a J.S. Bach, establece en su análisis que una IA nunca suplantará a un humano componiendo, menos aún, si este humano posee además capacidades poéticas y filosóficas. No sólo porque las composiciones musicales humanas están formadas por múltiples tonalidades y melodías, sino sobre todo por la capacidad humana de reacción ante imprevistos. Para ilustrar la relación hombre-máquina de forma lúdica, traslada a Silicon Valley —la meca de la tecnofilia—el diálogo que aparece en el texto seminal sobre composición musical Gradus ad Pranassum escrito por Johann Joseph Fux en el siglo XVIII.

«Predecir el futuro es el gran negocio del presente», dice Bani Brusadin en su ensayo para A*Desk. Aunque reconoce que la obsesión por el futuro conduce a descuidar el presente, él mismo está involucrado en un proyecto cuyo objetivo es jugar con el futuro: «Automated Control Wars» (ACW). Y ciertamente no podríamos cerrar el mes dedicado a la tecnología, sin mencionar un juego rol, una de las actividades favoritas inherentes a la cultura de la red. Presentando ACW como una herramienta didáctica para el pensamiento crítico y un experimento lúdico, Brusadin nos acerca a una serie de proposiciones que conectan los problemas tecnológicos y políticos existentes con sus proyecciones en posibles futuros. Mediante su «enfoque antagónico», el futuro pasa a ser un simple punto de observación a la espera de ser desafiado y afirma que solo formas de imaginación antagónica y alocada pueden regenerar el poder de decisión político en nuestra sociedad conectada y nuestro planeta cuantificado.

Estar inmersa en la era del algoritmo significa que lo digital es ineludible. A medida que los artistas y pensadores comienzan a considerar las complejidades de esta tecnología omnipresente y opaca, nosotros, como espectadores, debemos estar preparados para enfrentar esta nueva abstracción.

(Imagen destacada: Douglas Coupland, «I-Miss-My-Pre-Internet-Brain»)