Annons

Krav på humanare AI – teknologin har rusat fram för snabbt

AI-tekniken har sprungit förbi de humanistiska aspekterna av framtidens intelligens som har hamnat efter. 

Det slog panelen fast vid ett seminarium på Di:s scen på tisdagen. 

Moderator: Pontus Herin, Dagens industri. Värd: Knowit..
Foto:Jack Mikrut

AI-revolutionen är påtaglig redan nu men det är framför allt i framtiden som de stora förändringarna kommer att ske. Det kan handla om självkörande bilar och smart hus. 

Många av de dataprogram vi dagligen använder AI. 

Det är inte bara företag som kommer påverkas av den artificiella intelligensen. Det kommer påverka offentlig sektor, politik och inte minst oss de vanliga medborgarna. 

”Den vanliga definitionen är teknik för att bygga system som är lika komplexa i sitt beslutsfattande som en människa. Det vi egentligen gör är att bygga system som inom ett smalt området hanterar beslut som är extremt mycket mer komplexa än en människa kan göra redan nu. Och så bortser man från det som har med känslor att göra”, säger Per Wallentin, vd på Knowit

Anna Felländer, medgrundare AI Sustainability Center, förklarar att AI är annorlunda gentemot annan teknik av flera anledningar. Dels för att algoritmerna är självlärande, men också för att det finns låg transparens och förklarbarhet och att regelverket släpar efter. 

”Här behöver företagen ta vid. Egentligen kan man säga att teknologin har rusa lite för snabbt. Den forskningen och appliceringen av AI har handlat mest om ingenjörs-AI och den andra sidan av myntet, humanistisk-AI, har inte fått lika mycket uppvaktning”, säger Anna Felländer. 

På grund av det syns det ”fallgropar”, anser hon. De kallar det för en ny typ av förorening som är risker som integritetskränkningar, diskriminering och att man manipulerar människors svagheter. 

”Egentligen har det tryckts in AI för snabbt i existerande företagsmodeller”, säger hon.  

Andreas Aurelius, enhetschef på Vinnova, håller med Anna Felländer. 

”AI och digitaliseringen möjliggör en transformation. När vi är mitt inne i den måste vi samtidigt jobba med teknikutveckling och policyutveckling och det är oerhört utmanande att göra det samtidigt. Det kräver väldigt mycket samverkan, samarbeten och diskussioner”, säger Andreas Aurelius. 

Han berättar att när han nyligen besökte Google och Amazon och Facebook och andra stora techbolag, såg man att de har utmaningar med jämställdhet, utmaningar att rekrytera kvinnor samt att de har väldigt homogen personal.

”Tekniken utvecklas ingenjörsmässigt och de andra aspekterna som är viktiga kanske man inte får in. Det ger utmaningar och det är det som vi kanske behöver diskutera”, säger Andreas Aurelius. 

Förutom Per Wallentin, Andreas Aurelius och Anna Felländer var även Ishtar Touailat, AI- och innovationschef Techbuddy samt Fredrik Heintz, AI-forskare, Linköpings Universitet, med i panelen. 

Citat från scenen

Ishtar Touailat, AI- och innovationschef, Techbuddy.
Ishtar Touailat, AI- och innovationschef, Techbuddy.Foto:Jack Mikrut

Ishtar Touailat, AI- och innovationschef, Techbuddy:  
”Majoriteten av alla produkter och tjänster i dag, vare sig det är AI eller någon annan teknologi, är skapat för män, men som är gjorda för kvinnor och män. Hela produktledet och värdekedjorna behöver man diskutera för att kunna få bort och eliminera risker för partiskhet.”

Per Wallentin, vd, Knowit.
Per Wallentin, vd, Knowit.Foto:Jack Mikrut

Per Wallentin, vd, Knowit:
”Om du bara har män i 48-års åldern, som mig då, som har samma bakgrund så är det klar att du får en typ av perspektiv. Har du olika typer av bakgrunder eller olika erfarenhet från samhället eller livet då blir det antagligen ett mycket bättre system.”

Fredrik Heintz, AI-forskare, Linköpings Universitet.
Fredrik Heintz, AI-forskare, Linköpings Universitet.Foto:Jack Mikrut

Fredrik Heintz, AI-forskare, Linköpings Universitet:
”För det första ska AI vara människor centrerat. AI i sig är inte målet utan det är ett medel att förbättra för oss som medborgare och konsumenter. Och AI måste gå att lita på.”

Andreas Aurelius, Enhetschef, Vinnova.
Andreas Aurelius, Enhetschef, Vinnova.Foto:Jack Mikrut

Andreas Aurelius, Enhetschef, Vinnova:
”AI kan både bidra till att försämra situation kring jämställdhet men också bidra till att vi blir bättre på det. Har du en tanke och strategi och vet hur man ska göra så kan det förbättras.” 

Anna Felländer, Medgrundare, AI Sustainability Center.
Anna Felländer, Medgrundare, AI Sustainability Center.Foto:Jack Mikrut

Anna Felländer, Medgrundare, AI Sustainability Center:
”Vi ska leda AI, inte tvärt om. Problemet är att målvariablerna är oftast ökade klickengagemang, vinst, försäljning, och längst vägen tar algoritmen beslut som har en etisk karaktär.”


Kommentera artikeln

I samarbete med Ifrågasätt Media Sverige AB:s (”Ifrågasätt”) tjänst Ifrågasätt erbjuder Dagens industri möjligheten för läsare att kommentera vissa artiklar. Denna tjänst tillhandahålls således av Ifrågasätt som också är ansvarig för tjänsten. De kommentarer som Ifrågasätt tillgängliggör på tjänsten visas i anslutning till di.se. Dagens industri granskar inte kommentarerna i förväg. Kommentarerna omfattas inte av utgivaransvaret enligt yttrandefrihetsgrundlagen och de är inte heller en del av den grundlagsskyddade databasen di.se. Läs mer om kommentering här.

Innehåll från SynchAnnons

Advokatbyrå har utvecklat unik AI för avtalsgranskning

I ett projekt som inte har någon motsvarighet i Norden har advokatbyrån Synch utvecklat ett AI-verktyg som kan granska om avtal uppfyller GDPR-krav. Det tar bara några sekunder, och kvaliteten blir bättre än vid manuell granskning.

Synch Advokat är en affärsorienterad advokatbyrå som har innovation och teknologi som en viktig del av verksamheten. Byrån underlättar hanteringen av juridiska frågor genom tekniska lösningar. Det innebär att Synch kan arbeta närmare sina kunder jämfört med traditionella advokatbyråer.

– Som i många andra delar av samhället kommer sådana här tekniskt avancerade lösningar även bli mycket viktiga inom juridiken. Därför vill vi ligga i framkant och visa vilka möjligheter det finns med den nya tekniken, säger Magnus Sundqvist, Head of Digital Services, Synch Advokat.

Verktyget, som baseras på AI och djupinlärning, används för granskning av Data Processing Agreements, DPA, eller personuppgiftsbiträdesavtal. Alla företag som delar personuppgifter på något sätt måste sluta sådana avtal. Verktyget kan indikera om kraven i dataskyddsförordningen GDPR efterlevs, och om de inte gör det kan verktyget tala om vad som är felaktigt. Granskningen tar några sekunder. Kvaliteten blir högre än vid manuell granskning.

För att utveckla lösningen har Synch fått stöd av Vinnova, Sveriges innovationsmyndighet. 

– Syftet med lösningen är dels att vi ska kunna använda den själva, dels att vi ska sälja den till kunder, säger Magnus Sundqvist. Allt för att skapa värde för våra kunder. Än så länge granskar verktyget bara avtal som är skrivna på engelska då detta är den största marknaden. Med tiden kommer fler språk läggas till. 

Synch har tagit fram AI-lösningen i samarbete med tre av sina kunder. En av dem är Dustin, en ledande onlinebaserad IT-partner med verksamhet i Norden och Nederländerna. 

– Vi tycker att det här är ett spännande sätt att både effektivisera våra processer och att öka kvaliteten på dem. Lösningen stöder vår vision att möjliggöra för våra kunder att ligga i framkant, säger Sara Edlund, chefsjurist, Dustin. 

Med cirka 450 000 kunder och 2 800 tillverkare sluter Dustin ett stort antal avtal. En stor del av dem är standardavtal. De avtal som avviker från standardavtalen behöver granskas.

– Vi sluter avtal som behöver granskas i stort sett varje dag. I samband med att GDPR trädde i kraft behövde ett stort antal DPA slutas med såväl leverantörer som kunder, och det visade sig att den manuella granskningen av DPA är mycket tidskrävande. Behovet av att effektivisera avtalshanteringen kommer öka med utvecklingen av vår affär, säger Tomas Gate, försäljningschef, Dustin. 

– Därför insåg vi att ett smart digitalt verktyg som kan automatisera vår DPA-granskning var en klockren lösning för oss, säger Sara Edlund. 

Ett avtal på tio sidor kanske tar två timmar att granska manuellt. Det kan jämföras med AI-verktyget som klarar av granskningen på i genomsnitt tre sekunder. Om avtalet inte uppfyller kraven i GDPR får användaren tillbaka det med kommentarer, till exempel att två specificerade uppgifter saknas.

– Lösningen innebär att vi kan spara mycket tid, säger Sara Edlund. Men det innebär också att vi kan uppnå en jämnare kvalitet i granskningen. När man granskar manuellt kan resultatet påverkas av personlig riskaptit och dagsform. 

AI-verktygets träffsäkerhet ligger uppåt 99 procent, vilket är högre än vid manuell granskning.

– Men det kommer alltid krävas en viss manuell hantering, säger Sara Edlund. Vi kommer göra stickprovskontroller för att säkerställa att granskningen håller hög kvalitet, och analysen av avvikelser kommer fortsatt ske manuellt. 

– AI-lösningen är också positiv för Dustins kunder och leverantörer eftersom lösningen innebär en effektivisering och förenkling av affärsflöden, säger Tomas Gate. 

Synch har sedan tidigare utvecklat ett annat AI-verktyg, Privacypolicycheck.ai, som företag kan använda för att granska om deras integritetspolicy följer bestämmelserna i GDPR. Denna tjänst finns på Synchs webbplats och kan användas gratis av vem som helst.

– Än så länge har vi bara tagit de första stegen. Vi kommer utveckla det nya AI-verktyget så att det blir ännu mer avancerat. Vi kommer också utveckla liknande verktyg för andra typer av avtal och dokument, säger Magnus Sundqvist.

Läs mer här

Mer från Synch

Artikeln är producerad av Brand Studio i samarbete med Synch och ej en artikel av Dagens industri

Vi använder cookies för att förbättra funktionaliteten på våra sajter, för att kunna rikta relevant innehåll och annonser till dig och för att vi ska kunna säkerställa att tjänsterna fungerar som de ska. Läs mer i vår cookiepolicy.
Läs mer

Det verkar som att du använder en annonsblockerare

Om du är prenumerant behöver du logga in för att fortsätta. Vill bli prenumerant kan du läsa Di Digitalt för 197 kr inkl. moms de första 3 månaderna.

  • Full tillgång till di.se med nyheter och analyser

  • Tillgång till över 1100 aktiekurser i realtid

  • Tillgång till över 1100 aktiekurser i realtid

  • Innehållet i alla Di:s appar, tjänster och nyhetsbrev

3 månader för
197 kr
Spara 1000 kr

Prenumerera

Redan prenumerant?