Digital etik och moraliska principer – en sammanfattning

Tre astronauter. Deras respektive pratbubblor säger Hur ska jag agera?, Hur ska jag vara? och Vilket ansvar har jag?

Det är inte alltid självklart hur idén om etik smälter samman med det mycket breda konceptet digital teknik. Speciellt när ordet etik för tankarna till ett helt område av akademin som är förankrat i idéer som frambringats av grekiska filosofer. Det här är mitt bidrag till att rama in digital etik på ett sätt som gör ämnesområdet mer användbart för det dagliga arbetet med digitala produkter och tjänster.

Tre grenar av etiken

Vi börjar med de olika grenarna av etik som är centrala för samtal och allmänt studeras av filosofer. Jag pratar inte om moralteori ännu (utilitarism, etcetera) utan snarare om olika perspektiv när man närmar sig etik som begrepp:

  1. Normativ etik
  2. Meta-etik
  3. Tillämpad etik

Normativ etik

Normativ etik försöker svara på hur människor bör agera i moralisk mening. Det handlar om frågor som "hur ska jag vara" och "hur ska jag agera".  Idén är att moraliska principer behöver motiveras och förklaras. Det finns naturligtvis många moraliska teorier men det här är de tre stora kategorierna:

Diagram som summerar varianterna av normativ etik som återges i texten.
  1. Dygdetik hävdar att en handling är moraliskt rätt eftersom det är något som en dygdig person, som agerar till sin karaktär, skulle göra i den situationen. Detta kräver att vi definierar egenskaperna hos en dygdig person, som ofta är förknippat med den mänskliga naturen: till exempel rationalitet, nyfikenhet, empati och samarbete.
  2. Deontologin vilar på premissen att moralen i en handling bör bedömas utifrån huruvida den handlingen i sig är rätt eller fel enligt en serie regler, snarare än utifrån handlingens konsekvenser. Enkelt uttryckt: om resultatet av en handling är skadligt, kan handlingen fortfarande anses vara moralisk om den utfördes enligt en fördefinierad uppsättning moraliskt godkända beteenden. det vill säga "Något dåligt hände men jag gjorde fortfarande rätt."
  3. Konsekventialism är en klass av moraliska teorier som behandlar konsekvenserna av handlingar som den ultimata grunden för att bedöma om en handling är rätt eller fel. Den mest välkända av många konsekventialistiska teorier är utilitarism (nyttoetik), och specifikt hedonistisk utilitarism. Denna teori säger att samlad lycka är det som betyder något, det vill säga allas lycka, och inte lyckan för någon speciell person. Kallas även för teleologisk etik.

Karaktärsfokuserade teorier börjar med frågan "Hur ska jag vara?" och svaret avgör "Vad ska jag göra?". Handlingsfokuserade teorier börjar med frågan "Vad ska jag göra" och svaret avgör "Hur ska jag vara?".

För mig ligger kraften i dygdetik i dess beaktande av långsiktigt tänkande, det beteende man anammar, vanor/rutiner och konsekvent agerande. Man vill inte bara göra gott, utan också vara god. Genom att praktisera ett sätt att vara ökar man sannolikheten för moraliskt goda resultat.

Omvänt ligger kraften i konsekvensetiken i förmågan att ta ansvar för resultat som inte var avsedda, och använda den insikten för att justera och förändra framtida beteende.

När det kommer till ämnen som mänskliga rättigheter, hävdar många filosofer att deontologi (regler) och konsekventialism (resultat) överlappar. Även om de ofta förknippas med deontologi, kan reglerna för mänskliga rättigheter endast motiveras när man hänvisar till konsekvenserna av att ha dessa rättigheter. När samma beteende föreskrivs av både deontologi och konsekventialism kallas detta ofta för regelkonsekventialism (Rule Consequentialism).

Så även om dessa etiska områden kan tyckas vara distinkta är de också ofta relaterade till varandra.

Meta-etik

Läran om meta-etik tittar på vad moraliskt omdöme över huvud taget är. Vad är godhet och hur kan vi ens skilja vad som är bra från vad som är dåligt. Du kan uttrycka det som att du försöker förstå de antaganden som är en del av normativ etik.

Diagram som summerar varianterna av metaetik som återges i texten.

Meta-etik har delats upp av Richard Garner och Bernard Rosen i tre distinkta områden:

  1. Moral-semantik tittar på de moraliska termer och bedömningar vi använder inom moralfilosofin och försöker bestämma deras innebörd, om dessa betydelser kan ses som robusta och sanna och om de är relativa eller universella.
  2. Moral-ontologi tittar på moraliska teorier och bedömningar, och försöker förstå om de är absoluta ("du ska inte döda") eller relativa ("om inte någon försöker döda dig") och om moraliska principer skiljer sig åt mellan människor eller samhällen.
  3. Moral-epistemologi strävar efter att förstå om moraliska bedömningar kan verifieras genom att bestämma hur övertygelser och kunskap är relaterade, inklusive vad det innebär att säga att vi "vet" något.

Noterbart är att filosofer som arbetar med meta-etik inte inte tar hänsyn till om en person eller en handling är etisk eller inte, de bryr sig om själva etikens område och vilken substans den har.

Tillämpad etik

I den tredje och sista huvudgrenen av etik som jag hänvisar till i den här artikeln är det nu dags att agera. Oavsett moralteori utför människor handlingar hela tiden utan att dra dem genom en process för att avgöra vilken teori inom normativ etik som kan vara tillämplig.

Men förr eller senare stöter yrkesverksamma inom de flesta branscher på insikten att deras vardagliga arbete har effekter på andra människor, på samhället och på allmänt välbefinnande. Effekter som kan vara mycket påtagliga och betydelsefulla. De kommer till insikten att mer reflektion och hänsyn behövs för att utvärdera de resultat de bidrar till, och det krävs ansträngningar för att undvika och mildra de oönskade effekterna.

Tillämpad etik är den praktiska tillämpningen av moraliska överväganden för att hjälpa människor att fatta beslut med mer omtanke. Det handlar om att hitta ett sätt att angripa moraliska frågor i både privat och offentligt liv, ofta exemplifierat av yrken inom hälsa, teknik, juridik och ledarskap.

Tillämpad etik växte fram som ett område ur debatten kring snabba medicinska och tekniska framsteg på 1970-talet och ses allmänt som en viktig gren av moralfilosofin.

Den digitala etikens framväxt

Digital etik växer fram ur de snabba framstegen inom digital teknik och internetbaserade enheter och tjänster. I takt med att de mer olyckliga effekterna av digital teknik blir uppenbara så växer kravet på etik inom digital utveckling i hela samhället.

Och även om det gärna kan definieras som en delmängd av etik, är tillämpad etik nödvändigtvis multidisciplinär eftersom den kräver specialistförståelse av potentiella etiska frågor. Inom informationsteknologi kan detta exemplifieras av expertis kring integritet, maskininlärning eller datanätverk. Eftersom digitala teknik är allestädes närvarande kan dock den expertis som krävs för olika hänsyn även handla om till exempel upphovsrättslagstiftning, övergrepp i hemmet eller biometri.

Uppmärksamma risken för skada

De flesta digitala produkter utvecklas inte med den multidisciplinära expertis som krävs för etiskt övervägande, utan med den expertis som krävs för att bygga något (ofta så snabbt som möjligt) och få det lanserat. Vanliga drivkrafter för att bygga och investera i digitala produkter och tjänster är ekonomisk tillväxt och ökad effektivitet för en definierad delmängd av människor.

Det är ett skäl till att konsekvenserna av den digitala utvecklingen ofta blir uppenbara relativt sent, inte sällan flera år efter att en digital produkt släppts publikt. En annan anledning är naturligtvis att sammankopplade digitala system är ett relativt nytt fenomen: det finns fortfarande mycket att förstå och forska i. Vissa system som inte är designade för internet blir också något annat när de integreras i ett universellt nätverk.

Det är också viktigt att komma ihåg att det ofta finns många röster med tidiga varningar om teknikens konsekvenser. Röster som systematiskt ignoreras, tystas ned eller försvinner. Röster som är alltför bekanta med skada och med en inneboende förmåga att känna igen den.

Att se och känna igen risken för skada är en väsentlig faktor för att kurskorrigera det sätt på vilket den digitala utvecklingen sker. Att förstå hur man ska vara och hur man agerar. De exempel på skador vi stöter på idag är alla exempel att lära av när man väljer väg framåt och förenar tillämpad etik med digital utveckling.

Att välja moralteori

Att arbeta i ett team med andra människor i en hektisk miljö med snäva budgetar och tidslinjer presenterar sig inte som den optimala grunden för reflekterande resonemang och övervägd medkänsla. Särskilt om det saknas medvetenhet, expertis eller mandat för att hantera etiska utmaningar.

Medan normativ etik medvetet eller omedvetet kommer att underbygga alla resonemang om hur man ska agera, handlar digital etik inte om att komma fram till en överenskommen moralteori och använda den som en övergripande vägledning för digital utveckling. Tillämpad etik handlar istället om att ta tid för etiska resonemang och att göra detta till en del av det pågående arbetet och standardiserade arbetsflöden.

Ofta leder diskussioner om tillämpad etik i riktning mot någon form av konsekvenstänkande, där man tittar på resultaten och effekterna av att bygga och introducera något nytt. Men jag tror inte att detta ska utesluta möjligheten att anta varianter av dygdetik även på arbetsplatsen. Diskussioner om vem vi vill vara kan vara en stor bidragande orsak till hur ett team arbetar, fattar beslut och hanterar skadliga resultat.

Sätt att arbeta med tillämpad etik

Det här är ingen uttömmande lista över de sätt som arbetsplatser närmar sig tillämpad etik på, men jag hoppas kunna ge en förståelse för hur moraliska resonemang ofta förenklas (av goda skäl) för att hjälpa fler människor utan förståelse för normativ etik att vänja sig vid moraliskt beslutsfattande.

Allt som oftast kommer en mogen organisation att dra lärdomar från många olika sätt att hantera etiska utfall för att säkerställa positiva resultat. Detta liknar hur produktorganisationer förlitar sig på både kvantitativa och kvalitativa forskningsdata för att verifiera antaganden och vägleda det pågående arbetet.

Diagram som summerar varianterna av tillämpad etik som återges i texten.

Principlism

En mycket populär form av tillämpad etik är principlism. Det är ett ramverk utformat just för att undvika debatt på nivån av normativ etik. Det erbjuder ett praktiskt förhållningssätt för att hantera etiska dilemman i det dagliga arbetets här och nu. Du skulle kunna betrakta det som en form av regelkonsekventialism.

De fyra principerna inom principlism är:

  1. Respekt för autonomi. Vi tillåter en individ att vara självbestämmande och att själv fatta beslut utan onödig press, tvång eller andra former av övertalning.
  2. Omtänksamhet (benevolence). Vi har en skyldighet att agera till förmån för andra, och bidra till deras hälsa och välbefinnande.
  3. Icke-skada (non-maleficence). Vi avstår från att orsaka avsiktlig skada eller undviker avsiktligen handlingar som kan förväntas orsaka skada.
  4. Rättvisa. Vi gör vad vi kan för att säkerställa att kostnader och fördelar distribueras rättvist.

Även om de kan låta självförklarande vill jag betona att principen att hålla ett vakande öga på här är rättvisa. Detta beror på att det är möjligt att agera med hänsyn till både omtänksamhet och icke-skada och ändå inte vara inom dina moraliska rättigheter. Det kan vara så att vi kan skapa stora fördelar för vissa, medan andras intressen förbises. Principen om omtänksamhet skulle kunna förklaras för att möjliggöra att gå vidare med en användbar lösning, men när man utvärderar beslutet baserat på rättvisa kan det underkännas enligt kriterierna för rättvist fördelade kostnader och fördelar.

Ett princip-baserat ramverk kräver inte den omfattande analys och motivering som förväntas inom normativ etik. Istället räcker det att det finns en bred individuell och samhällelig enighet om vikten av föreskrivna värderingar. Principlism reflekterar ett vanligt synsätt på etisk analys inom vården, även om det självklart också har nackdelar. Det viktiga blir dialogen och resonerandet som ramverket bidrar till.

Fallbaserat resonemang, Case-based reasoning (CBR)

Om du har haft ett problem med din dator som du lyckas lösa, och sedan hjälper en vän med sin dator som uppvisar liknande symtom, använder du fallbaserade resonemang. Idén om juridiska prejudikat är också exempel på fallbaserade resonemang. Rättspraxis vilar på idén att utformning av regler baserade på tidigare resultat kommer att hjälpa oss att nå liknande och förutsägbara resultat idag och i framtiden.

I syfte att använda datorer för fallbaserade resonemang har processen delats upp i fyra steg:

  1. Hämta. Från minnet (eller arkiv), hitta den närmaste likheten med det du försöker lära dig eller uppnå, helst med ett framgångsrikt resultat.
  2. Återanvändning. Tillämpa informationen från minnet till den aktuella situationen.
  3. Revidera. Testa det nya konceptet eller lösningen för att bedöma dess verkan med dina förväntningar. Du kan behöva revidera och testa igen.
  4. Behålla. Lägg detta på minnet för senare hämtning. Detta är nu ett nytt fall som ska hämtas i framtiden.

Styrkan med fallbaserade resonemang är att produktionen blir konsekvent och förutsägbar. När ett framgångsrikt resultat har producerats (ur ett moraliskt perspektiv) är det mer sannolikt att vi kommer att uppnå samma moraliska framgång genom att tillämpa liknande regler.

Den uppenbara svagheten med fallbaserade resonemang är naturligtvis antagandet att om något var sant i det förflutna, borde det nödvändigtvis vara sant nu och i framtiden. Risken är att för lite uppmärksamhet ägnas åt förändrade variabler i miljö, och tid. Det vi ansåg vara framgångsrikt tidigare är kanske inte definitionen av framgång idag, och de ändringar vi tillämpar kan leda till oförutsägbara resultat i den verkliga världen.

Det är här resonemanget kommer in. Samtidigt som man ser samma symtom, kanske det underliggande problemet inte är detsamma. Istället för att fixa din väns dator kan du göra problemet värre.

En kritisk del av fallbaserade resonemang är därför att förstå om den nuvarande situationen verkligen liknar en tidigare som kommer att tänka på.

När jag pratar om fallbaserade resonemang tenderar jag att tänka på TV-serien House. I avsnitt efter avsnitt ifrågasätter Dr. Gregory House sina läkarkollegors diagnostiska slutsatser. Han grundar sin oenighet på små och subtila ledtrådar och insikter om de sjuka patienterna. Ofta är det som ser likadant ut inte detsamma. Detta tankesätt är värdefullt att sträva efter, till en viss gräns.

Manifest och etiska regler

Som professionell coach har jag anammat ICF:s etiska kod. Detta är ett sätt att kodifiera vad som anses vara bra och dåligt beteende. Genom min utbildning har jag rollspelat och haft omfattande samtal om olika scenarier för att bli mer medveten om etiska dilemman och hur jag förväntas agera i coachningsituationer där moraliskt beslutsfattande behövs.

En etisk kod knuten till en professionell organisation innebär att moraliskt ansvar blir uppenbart och transparent för människor som anlitar tjänster från en person knuten till den organisationen. Det kan användas för att hålla yrkesverksamma ansvariga och ytterst leda till uteslutning av individer från en organisation.

Även om vi ännu inte har sett den här typen av tillämpning för designers, utvecklare, ingenjörer och produktägare i det digitala rummet, har det verkligen skett en stor ökning av antalet manifest författade av och för digitala tillverkare under de senaste åren.

Till en början kan dessa manifest verka tandlösa när det gäller att åstadkomma verklig förändring i branschen, men jag tror att de för många är ett viktigt första steg. De uppmuntrar till de viktiga samtalen om ens egen roll i bra och dåliga resultat, och bjuder in människor att framföra sin egen ståndpunkt i olika frågor. Det är en startpunkt för dem som inte är väl insatta i etiska överväganden.

En välskriven, väl underbyggd och inkluderande etisk kod kan hjälpa en organisation att identifiera och peka ut nyckelområden med moraliska implikationer, och ofta skapa en medvetenhet om ansvar som inte fanns där tidigare.

Framöver hoppas jag att fler organisationer (såväl arbetsplatser som tekniska föreningar, skolor och institutioner) formellt kommer att införa guider, koder och manifest som är striktare knutna till ansvar för de yrkesverksamma som är knutna till dessa organisationer.

En tydlig fördel med dessa koder ligger i att definiera beteenden och situationer som är malum in se, i sig alltid felaktiga oavsett lagar och regler. Detta går längre än malum prohibitum, handlingar som är felaktiga eftersom de är förbjudna. För det digitala rummet, som ofta rör sig snabbare än vad reglering kan hänga med, skulle jag hävda att regelbundet uppmärksammande av potentiella oegentligheter snabbt blir en nödvändighet för etiskt beslutsfattande.

Vad gör vi med den här kunskapen?

I mitt arbete med digital etik finns det en balans mellan att föreskriva vad som är rätt att göra och vad som är rätt att ta upp till övervägande. Samtidigt som jag självklart har mina tankar om malum in se, är min insats som lärare inte till för att införa regler om rätt och fel. Jag vill inspirera och uppmuntra till reflekterande tänkande om vad individer och team vill åstadkomma relaterat till "att vara god" och vilka av deras egna handlingar som motverka det målet.

Det jag har insett är att förståelsen för vikten av digital etik ökar med antalet exempel på etiska dilemman som kan ges. Detta ökar också viljan att delta i konversationer om att göra rätt sak.

Ett verktyg som jag har tagit fram för användning i undervisning är Elementen inom digital etik. Detta är ett diagram som sammanfattar 32 olika element, eller ämnesområden, som har potential för negativ inverkan i digital design och utveckling.

Elementen inom digital etik.

När jag introducerar detta diagram kan två vanliga invändningar vara:

  1. elementen är inramade i det negativa snarare än det positiva resultatet
  2. det finns en brist på uttalad strävan, eftersom elementen inte själva kommer att berätta varför eller varför inte det finns en föreställning om gott eller ont kopplat till varje ämnesområde

Mitt svar adresserar bägge punkter: Alla element i diagrammet kommer inte att gälla alla etiska frågor i det digitala rummet. Deras syfte är att identifiera områden inom digitalisering där moraliska dilemman ofta har dykt upp. Det negativa uttrycket för ämnena i elementen är exempel på verkliga problem som tagits upp av media, ämnesexperter och digitala kreatörer själva.

På det viset kopplar jag elementen till verkliga situationer, med avsikten att göra dem så praktiskt användbara som möjligt för tillämpad etik.

Elementen inom digital etik är inte ett manifest eller vägledning för hur man ska agera. Det är en artefakt för att uppmuntra till samtal. Den berättar inte vad du ska göra, utan hjälper dig istället att tydligare se ämnen som du kanske vill överväga att bedöma ur ett etiskt perspektiv.

Vilken metod, teori eller ramverk du använder för denna etiska utvärdering är inte upp till mig att diktera. I slutändan ser jag att Elementen inom digital etik ofta har sin tänkta verkan, vilket är att stötta reflekterande resonemang när det ofta saknas medvetenhet och förståelse för var man ska börja.

En extra bonus för företag som faktiskt engagerar sig i de ämnen som omfattas av dessa element är att deras dokumenterade resonemang kommer att fungera som referens när vissa handlingar ifrågasätts av utomstående parter. Förmågan att vara transparent om etiska resonemang skapar förtroende och mildrar bekymmer som lätt kan växa utom kontroll.

Är digital etik för brett?

En fråga som ibland uppstår är om digital etik i sig är ett för brett ämne för att förtjäna ett eget paraplybegrepp inom tillämpad etik. Det finns faktiskt många relaterade underämnen som redan arbetar med av forskare, såsom AI-etik, integritet och bedräglig design. Några av dessa exemplifieras av ett eller flera element i diagrammet.

Vi måste komma ihåg att etiken i sig handlar om mänskligt beteende: hur man ska vara och hur man agerar. Detta är mycket brett till sin natur. Genom att reflektera över den digitala industrins moraliska ansvar fokuseras uppmärksamheten på de många sätt som digitala egenskaper (nätverk, hastighet, avstånd till användare, osynligt beslutsfattande och mer) kan göra det svårare eller lättare att förstå hur vi bör vara och hur vi ska agera.

Och detta är vad elementen ger, ett ramverk för att förstå den mångfacetterade branschen och var det finns potential för moraliska dilemman. En person eller ett team kanske inte kan ta itu med alla dessa frågor, men kan bestämma om de ska adresserar, vilka ytterligare frågor detta väcker och vem som kan hjälpa dem i det arbetet.

Digital etik är brett, men också specifikt, eftersom onlinetjänster förlitar sig på många liknande egenskaper när det gäller lagring av information, utbyte av information, tillväxt, tillgänglighet, användarhantering och hårdvaruberoende – för att nämna några.

När vi arbetar med digitala produkter och tjänster bör deras inneboende komplexitet inte vara ett hinder, eller ursäkt, för att ignorera moraliskt ansvar. Men vi måste också erkänna att vi i en professionell miljö behöver ett strukturerat tillvägagångssätt som fungerar ihop med pågående arbete utan att störa verksamheten. Annars kan initiativ till att engagera sig i djupare moraliska överväganden lätt rinna ut i sanden.

Det är därför jag ser fram emot att se fler organisationer och team designa och integrera verktyg och arbetsflöden för etiska resonemang på ett sätt som är meningsfullt för dem. Och börja dela dem med världen.

Berätta gärna vad ditt nästa steg är.


Få Pers nyhetsbrev

Per Axboms nyhetsbrev om digital etik och omtänksam design hjälper dig hålla dig uppdaterad om mänskliga rättigheter i tech-branschen. Du får utvalda inlägg i din inbox 2-3 gånger per månad.

Ange e-postadress

Kommentera