Kan vi undvika Panoptikon?

På 1700-talet skapade filosofen Jeremy Bentham en cirkulär fängelsebyggnad som gick under namnet ”Panoptikon”. Övervakaren befann sig i ett torn i centrum och kunde på så vis se allt som pågick i de tårtbitsformade cellerna runt omkring utan att fångarna själva kunde veta om de var övervakade eller inte. Detta var framförallt ett filosofiskt experiment, men trots det finns ett antal fängelser i världen som utformats efter dessa principer.

Ett dystopiskt synsätt på dagens samhälle vore att se på alla människor som äger en smart telefon som fångar i ett Panoptikon med Google, Facebook, Apple eller Tencent som fångvaktare. Eller tänk på alla som någon gång gjort ett personlighetstest på Facebook och nu är fångar i ett Panoptikon med trollfabriken Cambridge Analytica som övervakare.

Molnen tornar upp sig

Många av oss tänker nog inte på hur mycket data vi i dagsläget redan ger bort bara genom att vara, ofta med våra mobiltelefoner i fickan. Apparna i telefonen håller koll och delar vår aktivitet, eller brist på aktivitet också för den delen.

På Light & Building 2018 i Frankfurt presenterades många lösningar som skulle kunna skapa dagens Panoptikon flera gånger om. Det finns förstås en mängd fördelar med detta: det blir svårare att begå brott när allt går att spåra i det allt större datamoln som sparar avtryck från våra liv. Här handlar det mycket om att strukturera och söka i datamängderna på det mest effektiva sättet. Genom att söka i bilddata från offentliga platser kunde till exempel terroristen i Stockholm snabbt identifieras och gripas.”I kölvattnet av Cambridge Analytica är denna schism eller grannfejd mer aktuell än någonsin.”

Vid horisonten tornar ett par mörka moln upp sig. Kinesiska regeringen har till exempel gått ut med att de undersöker möjligheterna att kunna gradera och sätta poäng på medborgare utifrån socioekonomisk status. Det blir som ett gigantiskt övervakningssystem där analyser av data ligger till grund. Troligtvis är det inte bara Kina som planerar detta utan andra stater närmare oss gör redan detta i olika utsträckning. När systemet väl är uppe blir det lättare att lägga till ytterligare dimensioner. Hur kan detta tillämpas i samhället? Kommer staten kunna gå så långt att de ger överviktiga lägre poäng om de äter ohälsosamt eller rör sig för lite? Det är svårt att veta om det här systemet blir verklighet, men vad vi vet idag är att Kina är på väg att bli världsledande inom den här typen av dataanalyser, dvs AI (artificiell intelligens). De är i dagsläget de bäst lämpade att skapa ett sådant här system.

GDPR

Det finns ett par motkrafter till detta. Dels träder GDPR, den nya dataskyddslagen för EU i kraft under våren. Den har kommit till för att skydda oss individer och göra det lättare för oss att med lagen i ryggen ta reda på och radera data som olika aktörer sparat om oss. Den massiva datainsamling som pågår är ju ingen bakomliggande konspiration från de stora företagen utan de optimerar sina erbjudanden och tjänster till oss. Vi upplever tjänsterna som bättre och mer relevanta om de är personligt anpassade efter oss. Det är att allt samlas på ett ställe och storleken på datamängden som gör oss sårbara.

Trots att det blir lättare att ta bort oönskad information så ökar samtidigt ansvaret på oss individer att göra aktiva val. Även om vi exempelvis kan radera datan Google sparat om oss, så finns samtidigt Facebooks data sparad och för en tredje part så räcker det kanske med Facebooks data för att ta reda på det som vi tagit bort från Google? Vad gäller Cambridge Analytica så är deras data dessutom endast kopior av Facebooks data. Det betyder att även om Facebook raderar datan så kan det finnas otaliga kopior i omlopp som kan fortsätta spridas bortom vår kontroll.

Elon Musk om Mark Zuckerberg och AI på Twitter nyligen. Ett inlägg som fick enorm uppmärksamhet.

Musk och Zuckerberg

Elon Musk och Mark Zuckerberg har totalt olika grundsyn på den roll som mycket snabb bearbetning av stora datamängder kan få. Zuckerberg andas tillsammans med många i Silicon Valley sann teknikoptimism. Musks perspektiv är det motsatta, dvs att vi måste kunna skydda oss mot illasinnade AI i framtiden och därför inte kan lämna vårt öde i händerna på AI. Zuckerberg bygger sitt företag som en experimentsverkstad där det ska gå fort att testa nya idéer så att man kan misslyckas fort. Av förklarliga skäl kan inte Musk göra detsamma i sina företag. I kölvattnet av Cambridge Analytica är denna schism eller grannfejd mer aktuell än någonsin.

Biometri

Det blir allt vanligare att använda biometrisk data för identifikation, till exempel ögon- och ansiktsigenkänning och fingeravtrycksläsare. Röststyrda tjänster som Alexa, Siri och Google Home lär sig att känna igen och skilja på olika röster. Fördelen är att det inte finns två identiska röster, ansikten eller fingeravtryck. Eller gör det det? Iphone X har ansiktsigenkänning för att låsa upp telefonen och Apple har stolt visat upp hur säker deras lösning är. Trots det cirkulerar exempel där Iphone X låsts upp av ägarens kollega.

Detta belyser en intressant utmaning när vi börjar använda oss av biometrisk data i större utsträckning. För vad händer egentligen om ditt ansikte eller ditt öga hamnar i fel händer, dvs blir “hackat”? Du kan ju inte på ett enkelt sätt byta ut någon av dem. Kanske är det så att biometrisk data inte ska användas direkt vid identifikation utan snarare indirekt, eller inte alls.

Aktivism

Många av oss är passivt medvetna om datan vi genererar och att den kan användas i olika syften. Sedan finns det en växande skara aktivister som inte vill låta staten eller storföretagen vara ledande när det gäller att utveckla tjänster eller värna om medborgares integritet. De tar saken i egna händer och vill visa alternativa vägar framåt. Biohackaren Jowan Österlund driver Biohax International. Målet är att skapa ett “Internet of us” genom att sudda ut gränsen mellan människa och maskin och på så vis säkra att makten som tekniken ger oss stannar kvar hos människorna. Han bjuder in till “chip implant parties” där tatuerare sätter in små chip i handen. Det är samma typ av chip som i många av våra plastkort och chipet kan ersätta gymkort, busskort och passerkortet till jobbet. Detta är ett sätt att experimentera och visa hur individer kan ta saken i egna händer och driva på utvecklingen. Härnäst väntas nästa generation av chipen med mer minne och utökad funktionalitet. Större företag börjar få upp ögonen för detta och i Sverige fick SJ stort genomslag när deras kundklubb kunde sparas på chipet.

Utrymme för mer

Hur kan denna utveckling påverka oss? För några år sedan lämnade Apple in en patentansökan kring smart takbelysning som idag används i de nya Applebutikerna. Dessa paneler täcker en stor del av taket i butikerna och det är intressant att fundera över vad som får plats bakom. Själva belysningstekniken och ljuskällorna tar inte särskilt stor plats så det finns gott om utrymme att lägga till annat. Till exempel olika sensorer som samlar in data för att kunna analysera hur människor rör sig i butiken. Kan de genom att analysera denna data öka sin försäljning genom att ge individuella erbjudanden beroende på vem du är och vilket konsumtionshumör du är på just nu? Andra sensorer för att öka säkerheten, till exempel rök- och branddetektorer och olika kameralösningar kan också byggas in. Lösningar kring detta såg vi mycket av på Light and Building. Då skulle fler saker, som lås integreras in också.

Applebutikerna är ett exempel, men i de flesta armaturer så finns det gott om utrymme till att bygga in utökad funktionalitet. Detta talar för att det är belysning som ska leda när vi skapar framtidens smarta byggnader, vi har gott om plats för mer! En annan fördel med att låta belysning vara den bärande IOT-noden i framtidens byggnader och städer är att belysning är jämförelsevis lätt att montera ner, förändra och uppdatera. Om branschen går mot affärsmodeller med prenumerationserbjudanden så blir detta flera nya tjänstelager att erbjuda.

Etiskt råd

Om belysning i framtiden blir den bärande noden för smarta byggnader så blir det vi i ljusbranschen som får möjlighet att leda denna utveckling. Detta utmanar oss till att samarbeta med varandra, anta en mer holistiskt syn på integritet och säkerhet, och att integrera detta perspektiv i design– och produktutvecklingsarbetet. Beroende på hur vi ljussätter miljöer och vilka sensorer och datainsamlare vi tillåter i de armaturer vi använder, kan vi ta ett större ansvar för att skapa trygga miljöer samtidigt som vi kan värna om medborgares integritet.

Vi blir kort och gott ytterst ansvariga för att dagens version av Panoptikon respekterar och skyddar människors integritet och trygghet. I avsnitt 80 i podcasten 99% Invisible så diskuteras de etiska regler som tagits fram av AIA (American Institute of Architects). De menar att det finns byggnader som inte skulle ha byggts överhuvudtaget, eftersom deras design och konstruktion bryter mot grundläggande mänskliga rättigheter. Vi skulle också behöva etiska regler. Vad sägs om att skapa ett etiskt råd för oss som är verksamma i ljusbranschen? På så vis kan vi säkra att vi leder utvecklingen med människan i centrum. Är du intresserad av detta? Håller du med Zuckerberg, Musk eller ännu hellre någon annan? Hör gärna av dig med dina åsikter direkt till mig eller Ljuskultur.

Publicerad den 18 maj 2018

Ur Ljuskultur Nummer 3, 2018