La paraula algoritme té un origen ben curiós. Deriva del nom del matemàtic àrab del segle IX Muhàmmad ibn Mussa al-Khwarazmí. En el món de la computació a gran escala, el terme algoritme fa referència a qualsevol mecanisme automatitzat per comptar, realitzar càlculs i processar dades de manera repetitiva. Avui en dia, gairebé totes les interfícies a través de les quals ens relacionem amb els mitjans en depenen, des de les pàgines de venda d’entrades fins a les plataformes de xarxes socials. Potser sorprendrà algú afirmar que aquests processos aparentment tan humils en realitat serveixen per reimaginar la societat. Però és que l’acadèmica noruega Taina Bucher fins i tot ha arribat a dir que vivim en l’època de “l’imaginari algorítmic”. Com veurem, això és una lectura plausible del poder dels algoritmes en les societats contemporànies.
Gran part del nostre temps de descans i de socialització el passem en plataformes digitals: xarxes socials com WhatsApp i WeChat, jocs en línia… També dediquem bona part del nostre temps de treball a les interfícies de programes que, d’una manera o altra, controlen el que fem. I un percentatge cada vegada més elevat de les nostres transaccions com a consumidors les realitzem en línia, mitjançant targetes de crèdit i altres formes de pagament electrònic. En tots tres casos, es fa un seguiment de les nostres activitats en línia.
Rere totes aquestes formes de monitoratge hi ha ordinadors. I els ordinadors no poden monitorar res sense comptar i processar unitats d’informació. Així, els algoritmes són procediments automatitzats basats en programes informàtics per comptar i processar dades. Quan accedim a la Xarxa amb un dispositiu informàtic, es recopilen dades sobre el que fem en aquest dispositiu, i en aquest procés es compten molts elements i es comparen amb una sèrie d’expectatives predeterminades. Les dades resultants poden ajudar els nostres dispositius a funcionar correctament, però també tenen un valor econòmic potencial, ja que poden resultar útils per a les pàgines que visitem i es poden vendre a tercers, especialment si es combinen amb altres dades recopilades sobre nosaltres. Aquest processament de dades és bàsic per al funcionament dels mitjans, i moltes veus afirmen que també per a les operacions del capitalisme contemporani.
Ara bé, què té a veure el processament automatitzat de dades amb el rol dels mitjans en l’exercici d’imaginar la societat? La resposta és que el seguiment i el processament s’estan convertint en el bitllet per a noves concepcions del món social. I aquestes concepcions no són necessàriament més riques que les de les indústries mediàtiques tradicionals, però sens dubte són més útils per a diversos interessos comercials i governamentals.
Els seus resultats, en forma de prediccions sobre com ens comportarem i sobre la millor manera de mercantilitzar-nos, estan cada vegada més incrustats en la vida quotidiana, i reimaginen les nostres vides i les nostres decisions més probables. Com està passant, això?
Els serveis com ara Facebook són l’exemple més proper i contundent d’una tendència encara més gran cap a la reorganització de la vida en societat a través de plataformes informàtiques. Hi ha dos tipus de plataformes bàsiques: les que utilitzem per fer-hi coses molt específiques, com ara vendre o comprar a eBay, i les que visitem per passar-hi l’estona i entretenir-nos, per exemple per compartir fotos amb la família o els amics mentre deambulem per una ciutat estrangera.
Però fins i tot les plataformes del segon tipus, més obertes, limiten el que podem fer, perquè es basen en les operacions d’un programari que permet als ordinadors interactuar d’una manera particular i no d’una altra. Per tant, no podem llegir un llibre a Facebook, tot i que podríem publicar-hi un vídeo de nosaltres mateixos llegint –encara que no seria un vídeo gaire interessant, probablement.
El que mou la majoria de plataformes és l’extracció de dades sobre nosaltres, els usuaris, que podrien tenir un valor comercial potencial. Aquestes dades només adquireixen valor quan, gràcies a una enorme capacitat de càlcul, es poden processar a gran escala, de manera que se’n puguin extreure patrons que, per exemple, distingeixin un usuari de Facebook d’un altre, o que distingeixin aquells a qui el primer està connectat dels que estan connectats amb el segon. Vegem com funciona tot això amb una mica més de detall.
La raó de ser dels programes algorítmics és trobar diferències per establir patrons de diferència. Aquests patrons de diferència són valuosos perquè, per exemple, permeten als departaments de màrqueting orientar els seus missatges amb més precisió, el que s’anomena personalització en l’argot de la indústria. Però el canvi abasta molt més. S’està desenvolupant un nou llenguatge de descripció social.
No parlo de les històries sobre el món social que ens expliquem els uns als altres amb les nostres pròpies paraules, sinó més aviat de tot allò que els ordinadors de les empreses poden comptar i dels patrons que sorgeixen del processament d’aquests nombres. Perquè això passi, cal dividir el món en parcel·les que es puguin comptabilitzar: connexions de xarxa, nombre d’amics, quantitat de repiulades, les vegades que s’ha realitzat una transacció o que s’han introduït unes dades…
Amb tot, l’escala de la recopilació de dades i la importància dels beneficis que això genera són de tal magnitud que podem anar més enllà i afirmar que el mateix món social s’està reimaginant a través de les dades. N’hi ha de tots els tipus, mides i colors, però una forma destacable són les que es generen amb el monitoratge del temps que passem a les plataformes en línia que precisament ens animen a concedir més informació per comptabilitzar als algoritmes.
Per descomptat, també es deriven conseqüències positives dels algoritmes. Les plataformes estructurades algorítmicament com Facebook i Twitter ens ofereixen la possibilitat d’actuar a gran escala, quan vulguem i des d’on vulguem. Actualment, sovint arribem a conèixer els moviments socials pel hashtag de Twitter que els permet confluir al voltant d’un enfocament comú: #Indignats, #Occupy, #BlackLivesMatter, #MeToo… No és cap exageració afirmar que, gràcies a la seva coordinació algorítmica, les plataformes ens han ajudat a expandir la nostra imaginació sobre quins tipus d’acció social i cívica tenim a l’abast.
Però, és clar, el funcionament dels algoritmes també implica una sèrie de costos, igual que el control continu de les persones de què depèn. Estirant més el fil dels moviments socials, la mobilització a través de plataformes el negoci de les quals és monitorar persones, com Facebook o Weibo, els exposa a una vigilància més intensa per part dels seus governs o d’altres forces. Els perills d’actuar a la vista de tothom constitueixen un risc crucial que els activistes han d’assumir. Hi ha molts casos en què aquest equilibri de poder ha acabat caient pel costat de les autoritats polítiques. El moviment mexicà #yosoy132 n’és un exemple. Aquest moviment va néixer el 2012 com una protesta, amb un toc d’humor, però totalment seriosa, contra un ministre del govern que s’havia burlat de la reduïda dimensió d’una manifestació en contra seu. El significat de l’etiqueta, doncs, significa “jo soc el número 132”, és a dir, el membre següent que s’uneix a la manifestació. El hashtag es va estendre com la pólvora i va generar un desafiament efectiu per al ministre. Però també va acabar infiltrat per un espia del govern, que va crear la pàgina web del moviment com un mitjà per recopilar informació sobre els seus membres en benefici de la institució que el manava.
A llarg termini, les plataformes basades en algoritmes augmentaran les oportunitats polítiques dels moviments socials o les soscavaran? No ho podem saber segur, però sembla versemblant que els principals avantatges de la recopilació contínua de dades sobre les nostres activitats en línia tendeixin a caure en mans dels grans poders: els governs, que poden negociar un accés predilecte al vast mar de dades que posseeixen les plataformes, però també als noms més importants del sistema mediàtic –Google o Facebook a Occident; Alibaba i Tencent a la Xina–, que, amb el seguiment continu dels nostres moviments i amb les dades que se’n desprenen, obtenen uns actius de vigilància implacables. Aquests actius tenen un valor real, i, com els ciutadans estan veient cada vegada més, dia rere dia guanyen importància en la manera com es condueixen els negocis avui en dia.
Què significa tot això? Normalment, la vida social quotidiana no és el tipus d’activitat que impliqui assumir cap mena de riscos. Passar una estona amb les amistats i els familiars no ha de ser res més que això: una activitat relaxada, sense gaires conseqüències , o cap, en un moment en què podem regenerar la ment i el cos abans de tornar a la feina.
Però les coses no són tan senzilles. Passar estona a Facebook no és tan sols passar estona: quan utilitzem una plataforma digital, hem d’acceptar els seus “termes i condicions”, i hem de mantenir-nos dins de l’entorn creat per aquesta plataforma per assolir els seus objectius comercials. Això habitualment significa permetre que es generin dades sobre nosaltres.
Una plataforma social com Facebook té un abast colossal: gairebé dos mil tres-cents milions d’usuaris a tot el món. I no només es preocupa de recopilar dades sobre nosaltres, sinó d’estimular les nostres interaccions amb la plataforma per generar més dades sobre nosaltres mateixos i sobre els altres. Els seus algoritmes no només monitoren el que fem i amb qui connectem, sinó que també segueixen el que els nostres amics publiquen a la plataforma per determinar què és més probable que generi més interaccions.
Facebook no és l’únic que s’interessa per les nostres dades. Les dades tenen un valor considerable per a tercers actors, ja que proporcionen informació gairebé íntima sobre la gent amb qui ens connectem i sobre les condicions en què ho fem. Durant anys, Facebook va animar activament altres empreses a accedir a aquestes dades a través de la seva interfície de programació d’aplicacions o API –per les sigles en anglès. Va ser aquest l’aspecte del seu negoci que Facebook va haver d’ajustar en resposta a l’escàndol de Cambridge Analytica el març del 2018.
Us heu adonat de com de sovint se’ns demana que accedim a altres serveis mitjançant el compte de Facebook? Així és com Facebook ajuda la indústria del màrqueting a agrupar les dades que ells mateixos poden tenir sobre nosaltres, extretes del nostre comportament a Internet, juntament amb les de Facebook, de manera que generen patrons cada vegada més interessants sobre nosaltres i les nostres connexions.
La idea d’un imaginari algorítmic, ja introduïda anteriorment, comença a prendre forma: una manera d’imaginar-nos a nosaltres mateixos i el nostre potencial per generar ingressos per a les empreses. Aquest imaginari és essencial per fer negocis en el capitalisme contemporani. Un dels aspectes que ha impulsat aquesta tendència és la reorganització completa del màrqueting i la publicitat els darrers anys. Durant la major part del segle XX, la publicitat estava limitada al màrqueting massiu: un panell publicitari al carrer per atreure la mirada dels vianants; un anunci a la televisió o a la premsa perquè, amb sort, alguns espectadors o lectors se’l llegissin; un anunci penjat a Internet amb l’esperança que algun usuari hi fes clic…
En canvi, ara els anuncis es poden dirigir amb molta precisió cap a nosaltres, en el moment adequat, en base a les dades recollides prèviament sobre nosaltres o sobre persones d’un perfil similar. Imaginant-nos de manera diferent, els publicistes poden trobar-nos amb més precisió.
I més d’un respondrà que, tot i així, molts dels anuncis que ens arriben encara sembla que no l’acabin d’encertar. Però la publicitat personalitzada només és una part d’una transformació molt més àmplia. Estan apareixent nombrosos dispositius que extreuen encara més dades sobre la vida quotidiana de les persones, fins i tot encara que no tinguin cap aparell a les mans. És el cas dels assistents personals digitals com l’Echo d’Amazon, les habilitats del qual n’augmentaran la rendibilitat a llarg termini, o almenys això és el que espera la companyia. Que com? Doncs recopilant fluxos continus de dades sobre el que fem i el que volem a cada moment, i atenent les nostres necessitats sense límits. O pensem en els dispositius portàtils que recopilen dades sobre nosaltres, la nostra salut i la nostra forma física mentre entrenem, caminem o simplement dormim. Alguns publicistes esperen que xips electrònics incrustats sota la pell realitzin funcions similars d’aquí a poc temps.
Una perspectiva corporativa
Molts analistes estan preocupats per les noves formes de gestió social indirecta que estan sorgint d’aquesta realitat basada en les dades. Hi ha dos tipus de problemàtiques. La primera és que cada vegada és més habitual que les empreses demanin, o exigeixin, permís per monitorar la nostra vida quotidiana. Moltes asseguradores, per exemple, suggereixen que ens instal·lem un dispositiu de seguiment al cotxe a canvi d’una sèrie de bonificacions, de manera que un registre dels nostres desplaçaments es transmeti a temps real als seus servidors perquè puguin tenir-los en compte de cara a fer una valoració del nostre índex de risc.
La segona rau en el tipus de criteris que aquesta vigilància corporativa legitima. De vegades, una empresa d’anàlisi de dades no actua per si mateixa, sinó que està contractada per una branca del govern determinada, com un ajuntament, per exemple. La manca de finançament que pateixen els ajuntaments a la majoria de països suposa un incentiu evident per substituir la valoració humana de primera mà sobre la munió de casos que tenen sobre la taula pel que s’anomena anàlisi predictiva. Fa poc, al Regne Unit vam descobrir que aquest era el cas en la presa de decisions d’alguns departaments dels serveis socials sobre si els nens s’havien de classificar o no en estat “de risc” o les famílies com a “problemàtiques”; les dades elaborades i processades pels seus algoritmes poden incloure des de l’assistència a l’escola fins al pagament endarrerit del lloguer.
No obstant això, és crucial recordar que aquests algoritmes corporatius no són més que actes d’imaginació, en realitat. No tenim espai per entrar en detalls tècnics, però permeteu-me que intenti arribar al nucli del problema. Com hem vist, els algoritmes funcionen comptant, i només poden fer-ho així. La qüestió, per tant, és què compten. Això és tan vàlid per als algoritmes més senzills com per als que estan dissenyats per predir què passarà en una circumstància perfectament definida, com ara si seré més fidel a un proveïdor si se m’ofereix un descompte. El món real és caòtic, impossible d’ordenar amb precisió en unitats comptabilitzables, i al mateix temps el món futur encara no està a la nostra disponibilitat per comptar-hi res, així que tot el que ens queda és fer-ne un model. El mecanisme dels programes algorítmics, per tant, consisteix a construir servidors intermediaris o proxies: escenaris factibles que substitueixen les característiques més caòtiques del món real al passat o el futur.
Imaginem que una empresa vol calcular a qui ha d’aprovar un préstec i a qui no. Avui en dia, és fàcil que disposi d’un ampli ventall de dades per prendre aquesta decisió, incloses dades comprades a altres empreses. Per gestionar-les, voldrà desenvolupar una regla empírica –o proxy– que pugui indicar de manera fiable, a partir dels patrons d’aquesta massa de dades, si un individu és o no és el tipus de persona que presenta més probabilitats de retornar un préstec. I, és clar, aquesta regla general ha de sortir d’algun lloc. Es genera a partir d’un enorme càlcul computacional per establir què ha ocorregut en el passat amb altres subjectes que van retornar o no els seus préstecs. Amb una infinitat de seqüències informàtiques repetides, es pretén trobar patrons de dades que van acompanyar determinats resultats reals: X va pagar, i Y, no. Quan s’aïlla aquest patró, el seu contingut esdevé la regla empírica o el proxy que s’utilitzarà per predir els esdeveniments futurs.
I si les dades estan distorsionades perquè s’han extret d’un conjunt de dades extret d’una part determinada de la població? El resultat final, com han alertat diversos acadèmics del camp, té molts números per traduir-se en discriminacions reals contra persones reals.
Rere el teló de les empreses que utilitzen el poder dels algoritmes, el món s’està configurant de manera diferent. Quan processen els bits que formen el món de maneres radicalment noves, les empreses estan creant nous punts de partida per a les seves accions al món: noves dades, noves metes, nous objectius, noves definicions de l’èxit. Com a resultat, és possible que persones de carn i ossos no rebin un préstec, l’accés a una prestació social o a una plaça per al seu fill en un programa educatiu. El que preocupa els crítics d’aquests processos és l’opacitat, i com n’estan d’amagats, de l’ull públic. Com més amagats estiguin, més probable serà que surtin a la superfície noves injustícies i desigualtats.
Encara no hi ha comentaris, pots ser el primer
Deixa el teu comentari