Elementen inom Digital Etik

Ett diagram som uppmärksammar olika moraliska överväganden inom digital utveckling.

Elementen inom Digital Etik

Det här är den svenska versionen av The Elements of Digital Ethics, mitt diagram som sammanfattar de många sätt som digitalisering har potential att orsaka negativ påverkan. Tillsammans med diagrammet ger jag här en kort förklaring av de för närvarande sex sektionerna och deras totalt 32 element.

Jag är inte en motståndare till teknikutvecklingen. Jag är en förespråkare för ansvarsfull innovation. För att ta ansvarsfulla beslut måste du förstå vad som kan gå fel. Diagrammet är inte avsett att avskräcka utan snarare att medvetandegöra och uppmuntra till mer noggranna och genomtänkta val i en digital värld. Använd gärna diagrammet som ett arbetsverktyg, som en konversationsstartare och som en guide för undervisning.

Ett diagram över elementen inom digital etik, där varje element utgör sex-sidig del i en form som hämtar inspiration från en vaxkaka.

Digital etik innebär en form av tillämpad etik där organisationer och yrkesverksamma arbetar med avsikt att eliminera och mildra skadliga resultat som följer ur deras arbete med digitala produkter och tjänster. Det är en praktisk tillämpning av moraliska överväganden inom teknikområdet. Diagrammet beskriver ämnesområden som bidrar till moraliska dilemman som är relevanta att skärskåda i utövandet av digital etik.

Det som följer är korta sammanfattningar av de sex sektionerna och deras underliggande element, totalt 32 stycken:

Organisation

Dessa element gäller egenskaper och orosmoln hos organisationer som utvecklar digitala tjänster och produkter inom såväl privat som offentlig sektor.

Brist på etiskt ägande

När ingen i ett företag eller organisation har det uttryckliga ansvaret att säkerställa etisk hänsyn i den dagliga verksamheten kommer alla initiativ att vara ostrukturerade och vanvårdade sett ur detta perspektiv. Bristande ägarskap gör organisationer medskyldiga till aktiviteter som leder till negativ påverkan.

Ethicswashing

Etiska koder, dedikerade råd, whitepapers, utmärkelser och liknande fenomen kan skapas för att ge sken av godhjärtade överväganden utan någon verklig substans under ytan. 'Etiktvättning' kan också rikta uppmärksamhet mot investeringar och donationer i goodwill-projekt, som vid ytterligare granskning visar sig vara av ringa värde när det gäller att nå det uttalade målet att mildra negativa effekter av organisationens egna tjänster.

Notering: Jag valde här att behålla det engelska begreppet då motsvarande ord som greenwashing och pinkwashing numera kan betraktas som integrerade i det svenska språket.

Monokultur

Genom linsen av en liten del av mänsklig erfarenhet och omständigheter är det svårt att föreställa sig och förutse vidden av alla de perspektiv och öden som en ny skapelse kan påverka. Homogeniteten hos de som har antagit förmågan att bygga och skapa i det digitala rummet innebär att det främst är deras spegelbilder som gynnas – med bristande tanke på välbefinnande hos de som inte är synliga i den reflektionen.

Maktkoncentration

När makt finns hos några få kommer deras egna behov och bekymmer på ett naturligt sätt placeras i första rummet och prioriteras. Ju mer deras behov prioriteras, desto mer makt får de och deras gelikar. Vem är med på dina möten? Vem saknas?

Ansvarslöshet

Det finns väldigt få mekanismer för att hålla digitala kreatörer ansvariga för de många verkliga skador som orsakas av design och utveckling av digitala tjänster och produkter. Ofta är såväl lagstiftare som maskinernas tillverkare omedvetna om skada. I andra fall kan maskinerna bli perfekta syndabockar.

När maskiner säljs hyllas de som en symbol för felfrihet. När maskiner misslyckas beror det på att "det är vad maskiner gör", och med mer finansiering kan de återigen bli felfria. Mänskliga skapare tycks alltid sakna ansvar för maskinfel, samtidigt som de vill firas vid framgång.

Digital inbillning

Kunskapsfördelarna det ger att förstå teknik öppnar spelplanen för att inrama bekymmer och tveksamhet som användarens eller någon annans fel, så länge de är utanför organisationen. När användare skadas, leds de ibland att tro att det är på grund av deras egna handlingar, och att de därför förtjänat det.

Digital mörkläggning

Det är lätt att dölja långtgående avtal och villkor på långt ifrån intuitiva digitala platser och i väggar av innehåll som döljs av bedrägligt språk eller oskyldiga fraser.

Naiv vårdslöshet

I spåren av överförtroende och en naiv förståelse för både värdet av data och säkerheten inom online-lagring, hanteras ofta personlig information ovarsamt och  tvivelaktiga aktörer får åtkomst.

Maskin

Allt eftersom mer och mer beslutsfattande blir automatiserat måste människor vika sig för algoritmer, maskininlärning och bristande insyn. De här Maskin-elementen beskriver de inneboende egenskaperna hos maskiner som förstärker potentiell skada.

Algoritmisk orättvisa

Inget byggs som kan anses vara neutralt. Allt speglar värderingar och övertygelser hos skaparen, medvetet eller inte. Vi kan inte undvika maktobalans och vi kan inte undvika fördomar eftersom dessa nödvändigtvis kodas in i de automatiserade beslutsfattarna. Oroväckande är att fördomar och deras påverkan lätt kan göras exponentiellt mer effektiv, och därmed öka såväl räckvidden som allvarlighetsgraden av skadliga utfall.

Osynligt beslutsfattande

Ju mer komplexa algoritmerna blir, desto svårare är de att förstå. Ju mer autonomt de tillåts framskrida, desto mer avviker de från mänsklig begriplighet. Många företag kommer gömma proprietär kod och undvika granskning, ibland med resultatet att de själva tappar förståelsen för hela bilden av hur deras kod fungerar. Att avkoda och förstå hur beslut fattas kommer vara möjligt för allt färre antal människor.

Psykisk styrning

Med oändligt sammanflätadade datapunkter om individuell biologi och beteende kommer maskiner känna till mer om oss än vi själva har förmåga till. Det möjliggör kontroll och modifiering av beteenden på exempellösa och oförutsägbara sätt. Medan beteendeekonomi fortfarande påskiner en viss omsorg om mänskligt samtycke kommer det bli allt svårare att avgöra vem som har den egentliga makten. Det är en sak för övertalningsmekanismerna att vara dolda, en annan för dem att också styra människor med sylvass exakthet, alltjämt som människorna själva tror sig agera på egen hand.

Viral reproduktion

Allt som skapas digitalt kan ha en exponentiell påverkan långt bortom skaparen kontroll.

Samhälle

Den digitala gryningen har återverkningar för samhället i stort, med inflytande på värderingar, möjligheter, rädslor och trygghet för att nämna blott några. Det som inte tidigare var möjligt är nu i medvetet fokus och uttrycks ofta i frälsar-liknande budord utlovade av digital transformation. Nyvunna förmågor och ansträngningar att registrera och mäta precis allt i siffror stjäl uppmärksamheten från spiritualitet, omtanke och sensorisk sensitivitet.

Lagen om kvantitet

Snabbare, större och mer effektiv har aldrig varit lättare att mäta, och allt som kan belönas med ett nummer, rankning eller poäng blir ofta just det. Det är sällan av nödvändighet, eller med ett strategiskt mål i sikte, utan påfallande ofta för att "det är möjligt". Människor bedöms oftare med hjälp av siffror, ett sifferspel som nu genomsyrar näringsliv, hälso- och sjukvård, fysisk aktivitet och även antalet vänner.

Var gång vi rör oss snabbt nog för att gå miste om önskad tid med våra nära och kära har vi möjlighet att införliva denna regel om naturens ordning: allt kan inte vara mer på samma gång.

Tekniksynthet

(jämför: trångsynthet) När man snubblar över en ny samhällelig utmaning finns en utbredd tro och föresats att digital teknik ska användas för att lösa den. Denna doktrin är snabb att avfärda icke-digitala förslag. Inrotad i tekniksynhet är förstås en djup övertygelse om att teknik kan lösa problem men lika ofta en bländande oförmåga att ta till sig teknikens förmåga att skapa problem.

Uppmärksamhetsekonomin

Modern civilisation innefattar en tävling om uppmärksamhet vars målsättning gör det angeläget att skapa tillfällen för uppmärksamhet där den tidigare inte fanns. Det gör det lönsamt och eftersträvansvärt att verka för mindre sömn, mindre tid med nära och kära, att göra fler saker samtidigt, samt att förlita sig på beteendespårning och beteendemanipulation.

Övervakningskapitalism

Ju mer vi vet desto mer kan vi övertala och intala. Data om människor – förenat med deras uppmärksamhet – låter organisationer nå dem när de är som mest sårbara och mottagliga för specifika budskap. Det ökar enormt chanserna för att ett önskat beteende eller köp ska äga rum. Den som vet mest har mest makt och kan ta högst betalt. Marknaden belönar dem i stället för att ifrågasätta den övervakning som krävs för att ta den makten.

Otyglade trakasserier

Plattformarna som byggs för att tillåta allt större antal deltagare och suga åt sig allt mer uppmärksamhet ger också ökade förmågor till var och en för att mobba, provocera och tyrannisera i stegrande omfattning och för eget nöjes skull. Digitala trakasserier och terror kan äga rum anonymt och dygnet runt, och utsätter ett stort antal människor för trauma och lidande som är allt svårare att kringgå när samhället kräver deras digitala närvaro.

Människa

I stort sett alla aspekter av digital etik relaterar till negativ påverkan på människor, men några element kommer utmärkande nära inpå och är mer direkta och påtagliga i hur de drabbar personligt välmående.

Exkludering

Språk, medborgarskap, fysisk förmåga och en mängd andra orsaker exkluderar människar från jämlik tillgång till det digitala. Men trots att digitala lösningar bär potential att inkludera långt fler så utvecklas det digitala fortfarande på sätt som håller den metaforiska dörren stängd. Organisationer väljer regelbundet att avfärda människor på grunden att de är marginella, eller med ursäkter som finansiella begränsningar eller standardiserade arbetssätt.

Röstförtryck

Sällan hörda röster söks inte upp för att delta i digital utveckling. I stället hörs de redan starka rösterna och får sina behov tillgodosedda medan de dämpade rösterna tystnar än mer. De undertryckta rösterna, ovälkomna på plattformarna, finner att de inte har någon. När de får en inbjudan kommer vissa människor fortfarande kämpa för att kommunicera likvärdigt på digitala plattformar som kräver en viss nivå av expertis och fallenhet för skrivande. Tvekan och ångest identifieras lättare i fysiska möten medan de lätt kan förbises online.

Övergreppsstöd

Teknik designad för att kontrollera saker visar sig snabbt lika kapabel att kontrollera människor. I våldsamma relationer har förövaren nu kontroll över lampor, dörrar, kommunikation och enheter med platsinformation. Systemen misslyckas med att erbjuda skydd för de som är föremål för teknik-rustade övergrepp.

Integritetsdevalvering

För åtkomst till tjänster har det blivit norm att betala med personlig information och det accepteras ofta utan någon some helst eftertanke. Förståelse är generellt låg för hur personlig data är lagrad, hur mycket som delas med andra och hur den används. Vi en given gräns övergår upplevelsen till resignation, där man accepterar villkoren inte för att det är en bra uppgörelse utan för att utbytet normaliserats och det uppstår en känsla av att det är för sent för ånger. Det finns en nedslående tolerans att dela inte bara sin egen data men också data om sina vänner och familj. Och önskan att förstå bättre tycks ebba ut över tid.

Beteendeförtryck

Allt vi gör och säger kan hamna på internet. Allt vi gör och säger publikt kan spelas in. Allt vi gör och säger på arbetet kan mätas för att avgöra prestation. Vi vet att våra inköp hamnar i databaser eftersom bonusklubbar talar om för oss vad vi shoppar. Vår platsinformation spåras. Mötesverktyg kan mäta vår "uppmärksamhet". Friheten att agera begränsas alltid av farhågor om hur vår handling uppfattas utanför sitt sammanhang när den bedöms av en utomstående granskare. Antalet granskare ökar hela tiden.

Biometriska övergrepp

Insamling av biometrisk data ökar medan man ofta förbiser varaktigheten, och alltså även den enorma skörheten, i denna data. En gång förlorad biometrisk data kan sällan återfås, och kan användas för att identifiera även när anonymitet har utlovats.  Den fortsatta insamlingen av jättelika mängder data om människor skapar biometriska markörer där många inte ens förväntat sig det: bortom fingeravtryck, ansiktsigenkänning och gångstil, finns redan användning av hjärtslagsigenkänning och knapptrycks-dynamik.

Översyn

Denna del fångar det svåra utövandet av att nationellt kontrollera och hantera potentiell negativ påverkan relaterat till digitala tjänster och produkter.

Permanent påverkan

Många av problemen på den digitala arenan triggas av handlingar som inte lätt går att backa tillbaka. När data har delats kan det kopieras oändligt. När ett fingeravtryck har läckt så kan det inte ändras. När en algoritm för maskininlärning har implementerats kan få förstå den och ännu färre förändra dess beteende. Dessutom: värderingar idag kodas in i beslutssystem utan hänsynstagande till hur samhällsvärderingar förändras över blott ett par decennier. Fördomarna som gäller idag är vad vi lär de digitala system som tar beslut imorgon.

Utbildningsbrister

Integritet, etik och dataskydd finns sällan på kursplanen för de utbildningsprogram som ger oss dagens digitala proffs. Ofta är förmågor inom design och programmering självlärda eller införskaffade via online-kurser utan tvärvetenskapliga lärdomar. Allteftersom  efterfrågan på digitala utvecklare och kreatörer ökar så lägger arbetsgivare minimal vikt vid förmågan att bry sig om, och resonera kring, mänskligt och universellt välmående.

Regleringsbrister

Lag och policy försöker ofta rikta in sig på varje teknik individuellt och missar viktiga delar av det övergripande perspektivet. Förändring sker snabbare än regleringar hinner med, vilket ger en indikation om att lagstiftningen skulle kunna se över hanteringen av förändringstakten i sig självt, samt premisserna för förändring. Hur många gånger på en livstid bör en medborgare behöva lära om hur man söker jobb, köper en bussiljett eller bokar ett läkarbesök – och vem bör bära kostnaden av den omlärningen?

Privata offentliga platser online

Många länder rör sig mot den informella acceptansen av privatägda tjänster som plattformar för publika diskurser och yttrandefrihet, där även offentliga verksamheter ofta hänvisar till kanaler i regi av amerikanska bolag. Och fortfarande är det förstås så att kontrollen över plattformarna och deltagarna bestäms av de privata bolagen, samtidigt som jämlik åtkomst inte krävs av dessa bolag på samma sätt som av offentlig sektor. Det skapar många gråzoner och förvirring gällande skyldighet, tillgänglighet och ansvar, samtidigt som det påverkar människors förmåga att delta i ett öppet samhälle.

Geografiskt motstånd

I försök att styra över digitala tjänster så är regeringar i stor utsträckning begränsade av fysiska gränser och rättskipningsområden som de digitala systemen gärna förbiser. Många länder ser sina medborgare, och företag, anamma och knyta sig till verktyg och tjänster som är svåra att påverka med nationell eller regional lagstiftning.

Miljö

Element i detta område avser problem som skapas och/eller negligeras under det att digitala verktyg skapas. De blundas ofta för eftersom de anses vara sekundära förhållanden som inte är direkt relaterade till avsikten med det som skapas. Ibland sedda som oåtkomliga eller oundvikliga, behöver ändå dessa element adresseras eller hanteras för att begränsa negativ påverkan.

Arbetare försätts i fara

I tjänster där miljoner människor bjuds in för att publicera innehåll finns alltid en andel skadligt och olagligt innehåll som måste filtreras och gallras. För att hantera detta kan lågavlönade arbetare behöva sålla igenom till exempel grovt hatfyllda kommentarer, tortyr mot djur och människor och sexuellt våld utan samtycke. Arbetare påverkas ytterligare av förståelse för den skada som deras egen arbetsplats bidrar till, samtidigt som deras förhållanden kan göra det oerhört svårt för dem att vägra bidra till den skadan.

Negligering av försörjningskedjan

För att realisera digitala tjänster och lösningar behöver vi hårdvara och mjukvara. Bakom produktionen av dessa kan det finnas en lång kedja av förtryckande relationer och exploatering av arbetskraft. Ett exempel är det stora behovet av kobolt, som används i litium-batterier, som ofta utvinns under orättvisa förhållanden i grymma miljöer påminnande om slaveri (inte sällan är det slaveri). Att inte överväga vilken roll man själv har, och vill ha, i försörjningskedjan som krävs för att lansera digitala tjänster är att ignorera ansvaret för den potentiella skada man åsamkar andra.

Ojämlik tillgång

Endast strax över hälften av jordens befolkning har tillgång till internet och inom olika länder varierar åtkomst och tillgång till specifika tjänster. Inom vissa länder används internet systematiskt som en förtryckande kraft genom att stänga och öppna tillgång under samhällelig oro som protester och våldsaktioner. Idag finns nästan 7000 språk och dialekter i världen, men 98% av innehållet publiceras på bara 12 språk. Mer än hälften på engelska. Ofta omtalat som öppet är det viktigt att uppmärksamma hur internet är stängt för ett stort antal människor runtom i världen, och att reflektera över konsekvenserna av att ignorera dem.

Ekologisk försummelse

När digitala tjänster växer kräver de mer i energiåtgång, mer transporter av varor och stora datacenter som tränger undan landmassor och människor. Återigen är det lätt att förbise den övergripande miljöpåverkan som kreativt skapande i den digitala industrin står för när det sällan mäts, och andra mätvärden får större vikt. Som alltid kan inte alla variabler växa till det bättre på samma gång, och vi måste vara medvetna vad som växer till det sämre baserat på våra handlingar.

Använd så här

Diagrammet kan användas som en artefakt för att trigga diskussion och tjäna som referens när du gör riskanalyser. Jag använder det också för att planera lektioner i mina kurser.

Ibland kan det stora antalet element kännas överväldigande, och här är två sätt att bryta ner tankarna:

1. Ett praktiskt sätt att använda diagrammet i en workshop är att be varje arbetsgrupp välja ut 3-4 element, alla från olika sektioner, och uppmuntra till diskussion om vilka exempel på digital skada som den särskilda kombinationen får en att tänka på.

Som exempel, kombinationen av dessa fyre element kan leda till viktiga konversationer om beroende, psykisk hälsa och sömnbrist. De fyra element som syns i bilden är: ansvarslöshet, psykisk styrning, uppmärksamhetsekonomin och regleringsbrister.

2. Vi kan också börja med att identifiera olika tjänster som vi använder varje dag och välja från diagrammet för att identifiera såväl uppenbara som mindre uppenbara element som är aktuella givet hur vi använder de tjänsterna.

Om du hittar andra sätt att använda diagrammet på i ditt arbete, och som du vill dela med dig av, berätta gärna genom att kontakta mig.

Bilden i hög upplösning och PDF-format

Här hittar du ett högupplöst diagram (PNG) och en PDF i min Dropbox:

Bakgrund

Sedan 2016 har jag fokuserat ägnat tid åt att läsa, utbilda och ha konversationer om alla de saker som kan leda till negativ påverkan inom digital utveckling. Jag gör det för att bli bättre på att bygga och designa tjänster som gynnar välmående och begränsar skada. Det handlar inte om att hindra digital utveckling, utan om att välja bästa riktningen för den. Du kan kostnadsfritt nå hela min kollektion med artiklar och bokmärken relaterade till etik som uppdateras kontinuerligt. Du kan också köpa min bok Digital omtanke.

Jag skapade och uppdaterar diagrammet Elementen inom Digital Etik för att summera många av lärdomarna och insikterna från mina efterforskningar. Jag talar också på konferenser och event, utbildar, håller workshoppar och sprider kunskap om digital etik i mitt nyhetsbrev.


Diagrammet är licensierat enligt Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License.

Ange "Per Axbom" som skapare och länka till den här sidan när det är möjligt.

Finns också på engelska.


Få Pers nyhetsbrev

Utkanten av digital etik är ett månatligt nyhetsbrev som belyser exempel på skadlig teknik och lär digitala kreatörer hur man bygger för universellt välmående.

Ange e-postadress

Delar av kommentarsfunktionen är på engelska i väntan på att funktionen blir möjlig att översätta i verktyget som används.