Publicerat 2021-07-02 · Blogg

Etiska utmaningar med AI. .

AI implementeras i många delar av produktion, samhälleliga strukturer likväl som forskning och undervisning och kommer att fortsätta att göra det i ökande grad. I teknikens natur ligger det ett behov att konsumera data i högre och högre omfattning med syftet att förbättra sin intelligens och effektivitet. Detta innebär nya integritets- och etiska utmaningar som måste hanteras med noggrannhet och eftertanke. Virginia Dignum, forskare på Umeå universitet skrev i en artikel […]

AI implementeras i många delar av produktion, samhälleliga strukturer likväl som forskning och undervisning och kommer att fortsätta att göra det i ökande grad. I teknikens natur ligger det ett behov att konsumera data i högre och högre omfattning med syftet att förbättra sin intelligens och effektivitet. Detta innebär nya integritets- och etiska utmaningar som måste hanteras med noggrannhet och eftertanke. Virginia Dignum, forskare på Umeå universitet skrev i en artikel 2018:  

” Contrary to the frightening images of a dystopic future in media and popular fiction, where AI systems dominate the world and is mostly concerned with warfare, AI is already changing our daily lives mostly in ways that improve human health, safety, and productivity… 

…in order to ensure that those dystopic futures do not become reality, these systems must be introduced in ways that build trust and understanding, and respect human and civil rights.” 

De utmaningar vi star inför i A.R.T.-projektet är inte av dystopisk karaktär men är i allra högsta grad av den senare karaktären, respekt för mänskliga och civila rättigheter. Digitala mänskliga rättighetsfrågor relaterar till insamlingen av ”Big Data” och dess funktion för maskininlärning. Sociala medier såsom Facebook, Twitter och Instagram gör det möjligt för människor att skapa och utbyta medieinnehåll med stor publik. I ett sådant sammanhang får integritet som en beslutsprocess stor betydelse då individer är benägna att avslöja privat information inom dessa plattformar. Följaktligen beror bevarandet av användarnas integritet i stor utsträckning på deras individuella beteende, och inte så mycket på plattformens säkerhetsmekanismer såsom brandväggar eller kommunikationsprotokoll.  

I allmänhet är syftet med att lämna ut personlig information till andra förknippat med utveckling och förstärkning av sociala relationer, eftersom det direkt bidrar till att bygga förtroende och trovärdighet bland individer. Men, till skillnad från i den ”verkliga världen” tenderar människor att avslöja sina personuppgifter utan att reflektera mycket över potentiella negativa effekter. Exempelvis hur deras personuppgifter kan användas av andra aktörer för att influera dem. Extern influens behöver dock inte nödvändigtvis vara av ondo. Forskning visar på fördelar med AI-baserade metoder som syftar till att skapa medvetenhet bland människor. Exempelvis har AI i kombination med övertygande mekanismer visat sig användbart för att ”nudge/knuffa” användares beteende mot en säkrare integritetspraxis. Dessa tekniker ses emellertid ofta som etiskt problematiska då det är en tunn gräns mellan nudging, övertalning, tvång och manipulation. Därför måste etiska principer väl definieras och följas för att skydda människors handlingsfrihet, autonomi och välfärd. 

Big Data är ofta synonymt med insamling av personuppgifter där människor inte har gett informerat samtycke eller där data används på ett sätt som inte godkänts av deltagarna. Detta väcker frågor om samtycke och integritet, hur kan vi samla in, lagra och använda data på ett sätt som inte görs ”i hemlighet”?  Hur insamlar vi känsliga uppgifter som kräver en mycket noggrann och fullständigt motiverad ståndpunkt innan de implementeras? Och, hur gör vi detta på ett etiskt korrekt sätt med en forskningsetiskt känslig grupp som ungdomar? 

Nyckelorden för A.R.T. under denna fas kommer att vara transparens, konfidentialitet och information. Artificiell intelligens kan mycket väl bli allestädes närvarande de närmaste åren. Vi kan bara gissa hur implementeringen av artificiell intelligens går till i olika samhällssektorer men när det kommer till A.R.T så är vår ambition att säkerställa att vi i egenskap av forskare agerar på etiska och sekretessbevarande sätt. 

Vår målgrupp är ungdomar, specifikt de ungdomar som är i skedet att göra val gällande sin framtida utbildning. Projektets syfte härstammar från en oro från myndigheter och företag gällande ett glapp i digital kompetens, eftersom många ungdomar, särskilt flickor, tenderar att vara konsumenter snarare än skapare av teknologi. Vi vill förstå hur de själva upplever sina val i relation till intresse och samhällsnormer. Under våren kommer vi att kontakta ungdomar i västra götalandsregionen och be dem svara på en enkät. Enkäten är delvis tänkt som ett instrument för att fånga upp dimensioner av ungdomarnas val av utbildning men även som ett sätt att inkludera och entusiasmera. Att engagera ungdomar i forskning har potential att öka deras intresse för ämnet såväl som påverka deras val av framtida yrke. 

Jonas Hallberg
Universitetslektor och filosofie doktor i psykologi
Högskolan Väst

 

0

Lämna ett svar

Din e-postadress kommer inte publiceras. Obligatoriska fält är märkta *