Algoritmes de poder

Magazine

“No ens podem permetre ignorar les il·limitades manifestacions del que possiblement és l’assoliment cultural i intel·lectual més remarcable de la nostra era: el poder de decisió basat en algoritmes del web”. Michael Pepi, Iconology in the age of algorithm (Iconologia en l’era de l’algoritme), 2011.

La meva proposta com a editora convidada durant el mes d’abril de 2019 a A*Desk s’ha enfocat a reflexionar sobre la nostra existència hiperconnectada, sobre l’ús de la tecnologia i la informació a la nostra societat, sobre el poder dels algoritmes que decideixen per nosaltres i el seu impacte en la cultura contemporània.

Si bé la connectivitat, l’accés a la informació i la capacitat de transmissió d’aquésta ha estat en alguns casos i en àrees del planeta favorable, en general, aquesta irrupció tecnològica està lluny de ser positiva, especialment si es relaciona amb l’ús d’informació personal per part de tercers, amb la vigilància planetària, i amb certes deficiències socials tan organitzacionals, com emocionals i afectives, així com amb la pèrdua de subjectivitat.

En aquesta època digital fosca, la societat s’accelera a ritme de bits; s’ha produït una transició d’allò que és seqüencial al simultani, a la immediatesa, al valor de l’aquí i l’ara. Masses i multituds participen en cadenes automàtiques de comportament, les nostres subjectivitats es propaguen en temps real a través de les xarxes socials i el poder es mou a la velocitat d’un senyal electrònic, de manera que el temps requerit per a exercir-lo s’ha reduït a la instantaneïtat.

Si no pagues pel servei … tu ets el producte! Les grans companyies tecnològiques són màquines orwellianes capaces de censurar i delimitar la realitat per fer-nos viure amb un efecte de peixera dins del seu sistema. No obstant això, a diferència de 1984, en l’actualitat el tipus de control és diferent, ja que es tracta d’una cessió voluntària de la nostra privacitat a canvi de rebre informació (en teoria) exhaustiva. Encara no percebem el risc que l’algoritme vagi més enllà del límit digital i es converteixi en part de la nostra personalitat.

Com diu Cathy O’Neil a Weapons of Math Destruction (Bombes Matemàtiques de Destrucció) de 2016, l’ús generalitzat d’informació provenent de models imperfectes per part de sistemes tan financers com tecnològics, aquestes definicions “egoistes” d’èxit i els creixents bucles de retroalimentació donen lloc a algoritmes que amplifiquen la desigualtat social i reforcen el sexisme i el racisme.

Però quin és l’origen de l’automatització basada en conjunts de regles? Lorenzo Sandoval va començar el mes amb un text sobre l’origen de l’algoritme, però principalment pensant en com situar el començament i com llegir la història, especialment quan la cultura occidental s’entesta a ocultar-la i sobreescriure a la seva complaença. L’origen del terme algoritme està en el nom llatí del matemàtic Al-Khwarizmi, nascut al segle novè en l’actual Uzbekistan i educat a Bagdad (actualment Iraq), avui dos llocs totalment injuriats per occident. Sandoval també ens apropa a les matemàtiques inques com un altre possible origen de la ciència computacional, especialment el seu sistema decimal numèric i el seu conjunt de signes anomenats Quipu.

Podria ser que estem vivint no només en una nova era (digital), sinó que el temps mateix ha canviat de direcció en favor d’allò que és digital? En connexió amb el tema del mes d’A*Desk, Arm e n Avanessian presenta quatre aforismes com avanç del seu pròxim llibre Future Metaphysics (Metafísica Futura): Anormalitats, o quan les excepcions són més consistents que la regla, partint de la idea d’accident —crisi financeres, ecologia, catàstrofes tecnològiques i col·lapses socials—que impregna la nostra cultura. La teologia de la desmaterialització aprofundeix en les ideologies actuals de Silicon Valley com trans-humanisme o immaterialitat. Google Now o com els algoritmes ens ajuden a no haver de decidir constantment (sobre) el present, com ens donen informació abans de ni tan sols preguntar-la i com passen de la predicció a la determinació. Acaba amb la triada predicció-prevenció-preempció (dret preferent) per dissertar sobre les formes històriques de control i els seus esforços per controlar el futur.

En el seu text, Kostis Stafylakis parla sobre la polarització com una característica de la conducta i de la mecanització cibernètica de les relacions socials, per explicar-nos l’objectiu de la sisena Biennal d’Atenes que, en contrapartida, buscava emfatitzar l’antagonisme en lloc de suavitzar-lo. Primer adoptant el prefix ANTI com a nom de la mostra, per desmantellar la mercantilització d’aquest prefix en la cultura (digital) de masses. Com a part de l’equip curatorial de la biennal i per tant de les seves decisions tan estètiques com critiques, Kostis explica les potencialitats antagòniques de l’art presentat a Atenes per qüestionar mitjançant aquest antagonisme, la relació entre imatges digitals i desig corporal. Així com la necessitat de reinventar l’equivalència hegemònica entre les mega estructures digitals i les seves xarxes, i els individus i els seus cossos físics. Per acabar ens alerta de la necessitat urgent de redissenyar l’espai entre trobades digitals i físiques.

Continuant amb la vida digital, Ana Llurba entrevista al duo d’artistes Momu & No Es (Lucía Momu i Eva Noguera) amb motiu de les seves exposicions a Generaciones (La Casa Encendida, Madrid) I a la galeria Joey Ramone (Roterdam). La conversa gira al voltant de la hiperconnectivitat, el poder de les imatges digitals, comparant la contemporaneïtat amb l’ús d’imatges en l’Edat Mitjana, la vida en línia i les falses promeses de felicitat de l’era digital.

La intel·ligència artificial (I.A.) és una de les principals actrius invisibles ocultes en les profunditats del nostre món hiperconnectat. Peter Kirn ens apropa a l’aprenentatge automàtic com a nou mètode d’assimilar la teoria musical. Per això i a partir del Doodle amb IA creat per Google com a homenatge a J.S. Bach, estableix en la seva anàlisi que una IA mai suplantarà a un humà component, menys encara, si aquest humà posseeix a més capacitats poètiques i filosòfiques. No només perquè les composicions musicals humanes estan formades per múltiples tonalitats i melodies, sinó sobretot per la capacitat humana de reacció davant d’imprevistos. Per il·lustrar la relació home-màquina de forma lúdica, trasllada a Silicon Valley —la Meca de la tecnofilia—el diàleg que apareix en el text seminal sobre composició musical Gradus ad Pranassum escrit per Johann Joseph Fux al segle XVIII.

“Predir el futur és el gran negoci del present”, diu Bani Brusadin en el seu assaig per a A*Desk. Tot i que reconeix que l’obsessió pel futur condueix a descuidar el present, ell mateix està involucrat en un projecte en el que l’objectiu és jugar amb el futur: “Automated Control Wars” (ACW). Certament no podríem tancar el mes dedicat a la tecnologia, sense esmentar un joc de rol, una de les activitats favorites inherents a la cultura de la xarxa. Presentant ACW com una eina didàctica per al pensament crític i un experiment lúdic, Brusadin ens acosta a una sèrie de proposicions que connecten els problemes tecnològics i polítics existents amb les seves projeccions en possibles futurs. Mitjançant el seu “enfocament antagònic”, el futur passa a ser un simple punt d’observació a l’espera de ser desafiat i afirma que només formes d’imaginació antagònica i esbojarrada poden regenerar el poder de decisió polític a la nostra societat connectada i el nostre planeta quantificat.

Estar immersa en l’era de l’algoritme vol dir que el digital és ineludible. A mesura que els artistes i pensadors comencen a considerar les complexitats d’aquesta tecnologia omnipresent i opaca, nosaltres, com a espectadors, hem d’estar preparats per a enfrontar aquesta nova abstracció.

(Imatge destacada: Douglas Coupland, “I-Miss-My-Pre-Internet-Brain”)