Ill: Shutterstock.
Filosofi Overvåking

Velkommen til overvåkingskapitalismens tidsalder

Nettindustrien er basert på et enkelt prinsipp: å hente ut persondata og selge forutsigelser om brukernes atferd til annonsører. Men for å øke profitten må prediksjonen bli sikkerhet. Dermed holder det ikke lenger å forutse, nå gjelder det å endre menneskelig atferd i stor skala.

Posted on

Det var en grusom dag for David i juli 2016. I timevis hadde han ledet vitneforklaringer i en forsikringssak i en rettssal i New Jersey hvor et strømbrudd hadde ødelagt air condition-anlegget. Da han endelig kom hjem slo den kalde lufta mot ham og for første gang den dagen pustet han dypt inn. Så skjenket han seg en drink og gikk opp i andre etasje for en lang dusj. Dørklokka ringt akkurat idet vannet begynte å renne nedover den ømme ryggen. Han kledde på seg og gikk ned. Utenfor dyttet noen ungdommer mobilene sine opp i ansiktet hans.
– Hei, du har en pokémon i hagen din. Den er vår! Kan vi gå inn og ta den?
– En hva?

Den kvelden ringte dørklokka fire ganger til. Hver gang var det ukjente som ville inn i hagen hans og hver gang ble de rasende da han ba dem gå. Med mobilen i hånda pekte og skrek de mens de skannet huset og hagen hans i jakt på utvidet virkelighetskapningene. De så pokémonen på mobilskjermen, på bekostning av alt annet. Spillet beslagla huset og verden rundt det. Det dreide seg om en ny type kommersiell ekspropriering, hvor «virkeligheten» var gjort om til et jomfruelig rom klar til å erobres for andres berikelse. Hvor lenge skulle dette vare, lurte David. Hvem ga dem rett til dette? Hvem skulle han ringe for å få slutt på det?

Verken David eller spillerne ante at det var overvåkingskapitalismen som bragte dem sammen denne kvelden.

Googles kriseløsning

I 1999 hadde Google, på tross sin nye verden av søkbare nettsider, økende prosessorkapasitet og glamorøse investorer, ingen troverdig måte å gi investorene avkastning på. Brukerne leverte råvaren av atferdsdata, som Google samlet inn for å forbedre hastigheten på søkemotoren og relevansen til søkeresultatene, samt for å lage tilknyttede produkter som oversettelse. Maktbalansen mellom selskapet og brukerne gjorde det økonomisk risikabelt og sannsynligvis også kontraproduktivt å kreve betaling for søketjenestene. Å selge søkeresultater ville også ha skapt en farlig presedens for selskapet, for det ville satt en pris på informasjonen som Googles indekseringsroboter allerede hadde tatt fra andre uten å betale for det. Uten noen dings à la Apples iPod, hadde Google ingen marginer, ingen overskudd, ingenting å selge.

Google hadde også nedprioritert annonsesalget. AdWords-avdelingen hadde bare sju ansatte og de fleste delte grunnleggernes aversjon mot reklamer. Det endret seg brått i april 2000, da «den nye økonomien» krasjet og Silicon Valley ble et uventet episenter for et finansjordskjelv. Googles svar på krisen skulle gjøre AdWords, Google, internettet og selve informasjonskapitalismen til et lukrativt overvåkingsprosjekt.

Varig og eksponentiell profitt

Ill: Shutterstock.

Den gryende akkumulasjonslogikken som skulle definere Googles suksess går tydelig fram av et patent selskapets tre beste programmerere leverte i 2003: «Generere brukerinformasjon for målrettede annonser». Innovasjonen, forklarte de, skulle «etablere informasjon om brukerprofil og bruke denne for annonselevering».1Hvis ikke annet er oppgitt er alle sitater fra Shoshana Zuboff, The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power, Public Affairs, 2019. Med andre ord ville Google ikke lenger hente ut atferdsdata bare for å bedre tjenestene sine, men også for å lese brukernes tanker for å gi dem reklamer som stemte overens med deres interesser. Nye datasett skulle lages ut fra «brukerprofilinformasjon», User Profile Information (UPI), som skulle øke presisjonen i disse prediksjonene dramatisk.

Hvor skulle dataene komme fra? Den, skrev oppfinnerne, «kunne bli utledet». De nye verktøyene deres skulle lage profiler gjennom å kombinere og analysere søkemønstre, nedlastede filer og en rekke andre nettatferdstegn, og det selv når brukerne ikke direkte forsynte disse persondataene. Brukerprofilinformasjon, opplyste patentsøkerne, «kan bestemmes (eller oppdateres eller utvides) selv når ingen eksplisitt informasjon blir gitt til systemet».

Slik gjorde de det klarte at de var villige – og hadde teknologien – til å omgå eventuelle problemer med brukernes rettigheter. Atferdsdata, som tidligere bare hadde hatt sin verdi i å forbedre brukernes søk, ble nå den essensielle råvaren – og eid eksklusivt av Google – for å bygge et dynamisk annonsemarked på nett. Atferdsdata ble ikke lenger bare brukt til å forbedre tjenestene, det ble nå hentet ut mer atferdsdata enn det som trengtes til tjenesteforbedring, og det var dette atferdsoverskuddet som skulle la Google hente ut merverdi og gi den «varige og eksponentielle profitten» selskapet trengte for å overleve.

Informasjonskapitalismens standardmodell

Googles oppfinnelse avdekket nye muligheter til å utlede enkeltindividers og gruppers tanker, følelser, intensjoner og interesser gjennom en automatisert utvinning som opererer som et enveisspeil – det vil si uten at de det gjelder er klare over det eller samtykker. Dette utvinningsimperativet drev fram stordriftstenkning i innsamlingen av atferdsdata som skulle gi et verdenshistorisk konkurransefortrinn i en ny type prediksjonsmarked hvor veddemål med lav risiko om enkeltindividers og gruppers atferd gis en pris, kjøpes og selges. Enveisspeilet er det perfekte bildet på de sosiale overvåkingsforholdene med den enorme asymmetrien i kunnskap og makt det skaper.

AdWords ble raskt så stor suksess at det ga støtet til en betydelig utvidelse av den kommersielle overvåkingslogikken. Annonsørene krevde flere klikk. Svaret var å utvide modellen utover Googles søkesider og forvandle hele internett til et lerret for Googles målrettede annonser. Ifølge Googles sjeføkonom, Hal Varian, handlet det om å bruke Googles nye kompetanse innen datautvinning og -analyse på innholdet på selv den minste nettside eller brukerhandling og skvise meningen ut av dem med Googles stadig økende evne til semantisk analyse og kunstig intelligens. Dermed kunne Google presist vurdere innholdet på en side og hvordan brukeren samhandlet med det. Denne «innholdsrettede annonseringen» basert på Googles patenterte metoder skulle bli kalt AdSense. I 2004 omsatte AdSense for én million dollar om dagen, i 2010 hadde omsetningen økt med over 250 prosent.

Vi er ikke lenger subjekter for verdirealisering. Vi er heller ikke produktet Google selger.

Alle ingrediensene for et lukrativt prosjekt var samlet: atferdsoverskudd, datavitenskap, materiell infrastruktur, prosessorkraft, algoritmer og automatiserte plattformer skapte en enestående «relevans» og annonsesalg for mange milliarder. Klikkratene skjøt i været. Å arbeide med AdWords og AdSense var nå blitt minst like viktig som å videreutvikle søkemotoren. Med klikkrater som mål for relevans ble atferdsoverskudd institusjonalisert til en ny type handel avhengig av omfattende nettovervåking.

Da Google gikk på børs i 2004 fikk verden for første gang vite om den økonomiske suksessen til dette nye markedet. Google-direktør Sheryl Sandberg ble senere overvåkingskapitalismens onde geni da hun forvandlet Facebook fra et sosialt medium til en annonsegigant. Med Google i front ble overvåkingskapitalismen informasjonskapitalismens standardmodell på nett og trakk til seg konkurrenter fra alle sektorene.

Produsere prediksjoner

Denne overvåkingsøkonomien er basert på underkastelse og hierarki, der den tidligere gjensidigheten mellom selskapene og brukerne er blitt underkastet prosjektet om å utvinne brukernes atferdsoverskudd for andre mål. Vi er ikke lenger subjekter for verdirealisering. Vi er heller ikke, som noen hevder, produktet Google selger. Vi er gjenstandene som råmaterialene utvinnes og eksproprieres fra for å skape prediktive produkter i Googles maskinlæringsfabrikker som så selges til de faktiske kundene – selskapene som betaler for å spille i de nye futuresmarkedene for atferd.

Douglas Edwards, Googles første merkevaredirektør, forteller om et møte med grunnleggerne i 2001 om spørsmålet «Hva er Google?». «Hvis vi hadde en kategori, ville det vært persondata», reflekterte Larry Page. «Stedene du har sett. Kommunikasjonen […]. Sensorer er ekstremt billige. […] Lagring er billig. Kameraer er billige. Folk vil generere enorme mengder data. […] Alt dere har hørt, sett eller erfart vil bli søkbart. Hele livet ditt vil bli søkbart.»2Douglas Edwards, I’m Feeling Lucky, Houghton Mifflin Harcourt, Boston, 2011.

Pages visjon gjenspeiler perfekt kapitalismens historie, hvordan den har tatt ting som befinner seg på utsiden av markedssfæren og forvandlet dem til varer. I Den liberale utopi (1944) beskrev Karl Polanyi denne «store forvandlingen» med innføringen av en selvregulerende markedsøkonomi gjennom tre mentale oppfinnelser han kalte «fiktive varer». For det første at menneskelivet kunne underkastes markedet og gjenoppstå som arbeidskraft som kunne selges og kjøpes. For det andre at naturen kunne forvandles til et marked og gjenoppstå som eiendom. For det tredje at handel kunne gjenoppstå som penger.

Dagens overvåkingskapitalister har skapt en fjerde fiktiv vare ekspropriert fra de reelle opplevelsene til reelle mennesker, hvis kropper, tanker og følelser er like urørte som de rike engene og skogene naturen en gang besto av før den ble sugd inn i markedet. Menneskelig erfaring blir underkastet overvåkingskapitalismens markedsmekanismer og gjenoppstår som atferd, som omdannes til data for å produsere prediksjoner som kan kjøpes og selges.

Denne nye markedsformen erklærer at å tjene folks reelle behov er mindre lukrativt, dermed mindre viktig, enn å selge forutsigelser om deres atferd. Google oppdaget at vi har mindre verdi enn forutsigelsene som kan gjøres på bakgrunn av vår atferd. Det forandret alt.

Smartovervåking

Den første bølgen av prediktive produkter var avhengig av atferdsoverskudd utvunnet i stor skala på nett for å produsere «relevante» nettannonser. Neste bølge var ikke bare definert av kvantiteten, men også kvaliteten på de prediktive produktene. I kappløpet om stadig større sikkerhet ble det tydelig at de beste prediksjonene måtte nærme seg observasjon. Et annet økonomisk imperativ, prediksjonsimperativet, er resultatet av disse konkurrerende kreftene, og gjorde operasjonene mer komplekse med innføring av stordriftsøkonomi og handlingsøkonomi.

Atferdsoverskuddet må ikke bare være stort, men også variert. Og variasjon hentes ut ved å utvide utvinningen fra den virtuelle til den virkelige verden hvor vi lever våre faktiske liv. Overvåkingskapitalistene forsto at deres framtidige rikdom ville avhenge av nye forsyningskjeder av atferdsoverskudd fra blodstrømmen vår til sengene våre, fra reisene, fra kjøleskapene, parkeringsplassene og stuene.

En ny regressiv tidsalder med autonom kapital og heteronome individer.

Stordriftsfordelene går gjennom en annen og enda mer privat dimensjon: dybde. Ideen er at mer prediktivt, og dermed mer lukrativt, atferdsoverskudd kan utvinnes fra selvets mest intime mønstre. Disse operasjonene retter seg mot vår personlighet, vårt humør, våre følelser, løgner og sårbarheter. Alle lag av vårt personlige liv vil måtte innfanges og presses sammen i datapunkter på samlebåndene for produksjon av fullkommen forutsigbarhet. Mye av dette er blitt fullført under headingen «personalisering», som skjuler en aggressiv utvinning av hverdagens private dybde.

Det blir stadig flere produkter – alt fra «smarte» vodkaflasker til nettoppkoblede rektaltermometere – som overvåker, registrerer og kommuniserer atferdsdata. Sleep Number tilbyr «smart sengeteknologi og søvnmåling». Selskapet samler også inn «biometrisk og søvnrelatert data om hvordan du, et barn eller en annen person som bruker sengen sov, for eksempel bevegelser, posisjoner, pusting og hjerterytme mens de sov». Den registrerer også alle lydene i soverommet.

Hjemmene våre er mål for overvåkingskapitalismen. Selskapene konkurrerer om et marked med smartapparater som i 2017 var verd 14,7 milliarder, opp fra 6,8 milliarder året før og anslått å nå 101 milliarder i 2021. Du har kanskje støtt på noen av de absurde dingsene: smarte tannbørster, lyspærer, kaffemugger, ovner, jusmaskiner og ikke minst smart bestikk som påstås å forbedre fordøyelsen. Andre er mer skremmende: overvåkningskamera med ansiktsgjenkjenning, alarmsystem som overvåker uvanlige vibrasjoner før innbrudd, innendørs-GPS, sensorer som kobler seg til gjenstander for å analysere bevegelse, temperatur og andre variabler, og ikke minst kyborgkakerlakker for å oppdage lyder. Selv barnerommet er nå mål for ferskt atferdsoverskudd.

Atferdsforsikring

Etterhvert som konkurransen om inntektene har skjerpet seg, har overvåkingskapitalistene skjønt at stordriftsfordeler ikke er nok. Atferdsoverskuddet må være rikelig og variert, men den sikreste måten å forutsi atferd på er å gripe inn i selve kilden og forme den. «Handlingsøkonomi» kan vi kalle disse prosessene, med programvare konfigurert for å gripe inn i reelle situasjoner med virkelige mennesker og ting. Disse intervensjonene er laget for å øke sikkerheten med å dulte, påvirke, justere, manipulere og endre vår atferd i profitabel retning, for eksempel ved å sette inn en bestemt setning i nyhetsstrømmen på Facebook, time når kjøpsknappen dukker opp på telefonen vår, stanse bilmotoren hvis forsikringen ikke blir betalt i tide, eller lede oss med GPS i jakten på pokémons. «Vi har lært oss å skrive musikken», sier en programvareutvikler til meg. «Så får vi dem til å danse til musikken. Vi kan konstruere konteksten rundt en bestemt atferd og endre den på denne måten. Vi kan si til kjøleskapet ‘Lås deg, for han burde ikke spise’ eller fortelle tv-en at den skal skru seg av for at du skal gå få deg litt søvn.»

Når prediksjonsimperativet flytter forsyningsoperasjonene over til den virkelige verden, sikler vare- og tjenesteleverandører fra etablerte sektorer nå på overvåkingsinntektene. Bilforsikringsselskaper er utålmodige etter å implementere telematikk – systemer for fjernstyrt navigasjon og kontroll. De har lenge visst at faren for ulykker er tett forbundet med sjåførens atferd og personlighet, men det har vært lite de har kunnet gjøre med det. Nå anbefaler en rapport fra Deloitte risikominimering – en eufemisme for sikkert utfall – gjennom å overvåke og sanksjonere forsikringstakerens atferd i sanntid.

Tilnærmingen kjent som «atferdsforsikring» betyr, ifølge Deloitte, at «forsikringsselskapene kan overvåke forsikringstakerens atferd direkte […] ved å registrere når og hvor de kjører og hvordan veiforholdene er, om de akselererer eller kjører for fort, hvor hardt de bremser eller hvor brått de svinger og om de bruker blinklys.»3«Overcoming Speed Bumps on the Road to Telematics», Deloitte University Press, 21. april 2014.

Når sikkerhet erstatter usikkerhet kan forsikringspremiene, som en gang gjenspeilte hverdagens usikkerhet, nå skrus opp eller ned på millisekundet ut fra presis kunnskap om hvor raskt du kjører til jobben etter en hektisk morgen med et sykt barn, eller om du sladder på parkeringsplassen bak supermarkedet.

Prediktive produkter

Telematikken skal ikke bare gi kunnskap, men også handle. Atferdsforsikring lover å redusere risiko gjennom mekanismer for å endre atferd, og skape maksimal lønnsomhet gjennom sanksjoner som premieøkninger i sanntid, bøter og motorstans, eller belønninger som lavere premier, tilbud eller bonuspoeng på framtidige forsikringskjøp.

Spireon kaller seg «det største telematikkselskapet» og har spesialisert seg på å overvåke kjøretøy og sjåfører for utleiefirmaer og forsikringsselskaper. Selskapets «styringssystem for utilsiktede skader» gir advarsler til sjåførene når de er bakpå med betalingen, stanser bilen hvis regningene ikke blir betalt innen en viss tid, og lokaliserer bilen hvis den må taues inn.

Telematikk annonserer en ny æra innen atferdskontroll. Forsikringsselskapene kan sette regler for kjøringen: alt fra sikkerhetsbelte, hastighet og dødtid til aggressiv akselerasjon, bråbremsing og for mange timer på veien. Disse reglene blir gjort til algoritmer som kontinuerlig overvåker, vurderer og klassifiserer sjåførene, og justerer forsikringspremiene i sanntid. Atferdsoverskudd omdannes også til prediktive produkter som kan selges til annonsører for målrettede annonser sendt rett til forsikringstakernes mobiltelefoner.

Et spill i spillet

Da David åpnet døra den kvelden visste han ikke at han og pokémonjegerne var med i et gigantisk handlingsøkonomisk eksperiment. De var forsøkskaninene og mannen i den hvite frakken het John Hanke.

Fram til 2010 var Hanke nestleder for Google Maps og ansvarlig for Street View. Mens han var i Google startet han Niantic Labs, selskapet bak Pokémon Go. Før han begynte hos Google hadde han startet Keyhole, et CIA-finansiert selskap for kartlegging med satellittbilder som senere ble kjøpt av Google og omdøpt til Google Earth. Med Niantic var målet å lage spill som kunne spore og lede folk gjennom stedene Street View hadde innlemmet i kartene sine.

Pokémon Go er basert på utvidet virkelighet og utformet som en skattejakt. Når du har lastet ned appen fra Niantic bruker du GPS og kameraet på telefonen din til å finne virtuelle skapninger. De dukker opp på skjermen som om de befinner seg i de virkelige omgivelsene dine, i hagen til en intetanende mann, i en gate, en park eller en butikk. Ideen var at spillerne skulle «gå ut» for «dra på eventyr til fots» i de åpne stedene i byer og forsteder.

Algoritmer overvåker kontinuerlig sjåførene og justerer premiene i sanntid.

Da spillet kom ut i USA, Australia og New Zealand 6. juli 2016 ble det den mest nedlastede og lønnsomme appen i USA innen en uke, og hadde snart like mange aktive brukere på Android som Twitter. Bare seks dager etter at spillet var lansert rådet BuzzFeed-journalist Joseph Bernstein brukerne til å sjekke hvor mye data appen samlet inn fra telefonene deres. Teknologinettstedet TechChrunch stilte også spørsmål om «den lange listen med tillatelser appen krever».

13. juli 2016 ble rasjonalet bak datainnsamlingen klart. Hanke innrømmet til Financial Times at i tillegg til betaling for ekstrafunksjoner, «finnes det en annen komponent i Niantics forretningsmodell, nemlig sponsede steder». Denne inntekten hadde alltid vært planen. Selskapene skulle «betale Niantic for å være blant stedene i det virtuelle spillet, for å bringe mer fottrafikk dit». Kundene skulle faktureres per besøk, forklarte Hanke, slik Google tar betalt per klikk for sine annonser.

Inntekter fra den virkelige verden skulle øke med Niantics evne til å få folk til å oppsøke bestemte steder, på samme måte som Google brukte atferdsoverskudd til målrettede nettannonser. Spillets komponenter og dynamikk, kombinert med utvidet virkelighetsteknologi skulle få folk til å oppsøke steder i den virkelige verden for å bruke virkelige penger i virkelige butikker.

Da Pokémon Go hadde sitt høydepunkt sommeren 2016 ble overvåkingskapitalismens drøm virkelig: et levende laboratorium for atferdsendring som forente omfang, utvalg og handling. Pokémon Gos genistrek var å forvandle et enkelt spill til et enda større spill, overvåkingskapitalismens spill, et spill i spillet. Da spillerne saumfarte parker og pizzasjapper var de uvitende brikker i et langt større spill med helt andre konsekvenser. Spillerne her var ikke de som veivet med mobilen utenfor plenen til David. De var Nantics egentlige kunder, selskapene som betalte for å spille i den virkelige verden, lokket med løfter om sikre utfall. Her slåss de om pengene til hvert enkelt medlem i flokken av mobilviftere. Financial Times hyllet «spillets framtidige rolle som melkeku for butikker og andre som trenger folk til fots».

Man får bare sikre utfall om man har makten til å skape det. Overvåkningskapitalismen innvarsler slik en regressiv tidsalder med autonom kapital og heteronome individer, hvor mulighetene for demokratisk og menneskelig blomstring avhenger av det motsatte. Dette er overvåkingskapitalismens mørke hjerte, en ny type økonomi som gjenskaper oss gjennom dens eget prisme med en ny global digital arkitektur og nye intrikate midler for atferdsendring.

Oversatt av redaksjonen

Shoshana Zuboff er professor emeritus ved Harvard Business School. Siste bok: The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power (2019).

Fotnoter   [ + ]

Siste fra Filosofi

0 kr 0
Gå til Toppen