Annons

Jeff Bezos: AI innebär en ”ny guld­ålder”

PALO ALTO. Artificiell intelligens är näringslivets hetaste modeord.
Men den stora frågan är kanske inte om robotar kommer att ta makten över mänskligheten utan vilka människor som får makten över maskinerna. Och vad robotarna kommer tillåtas att göra.

Bild:Colourbox
Amazons vd Jeff Bezos
Amazons vd Jeff BezosBild:AP

Kan en dator avgöra om en person är homosexuell genom att läsa av ­an­siktet? Bara frågan väcker nog hos många obehagliga tankar på ett George Orwellskt övervakningssamhälle. Och det blir kanske inte bättre av att svaret är ja, och att det redan är bevisat.

Forskarna Michal Kosinski och Yilun Wang på Stanforduniversitetet i Silicon Valley presenterade nyligen en studie om vad som har kommit att kallas för ”gaydar”. En dator som visades foton av två olika män kunde med 81 procents säkerhet peka ut vem av dem som var homo­sexuell. Kritiken lät inte vänta på sig och Michal Kosinski fick ta emot dödshot. Hans poäng med försöket: att visa på hur artificiell intelligens kan användas med onda avsikter för att på olika sätt kränka människors privatliv.

Frågeställningen är i högsta grad aktuell. Ansiktsigenkänning är redan stort och i Kina har det rapporterats om att myndigheter vill använda tekniken för att följa potentiella brottslingars rörelser och varna polisen innan de har hunnit begå ett brott.

Tidningen Economist skrev nyligen om att ny AI-teknik kan användas för att skapa fejkade videoklipp med verkliga människor som säger påhittade saker, och som är mycket svåra att avslöja som förfalskningar. Något som får dagens fake news-problem att framstå som en bagatell.

Frågan om AI och etik är brännhet. AI är nämligen inte längre ett ämne för framtidsseminarier. Tekniken används varje dag och är nu på väg att rullas ut i en skala som gör att alla människor med dator och telefon påverkas. Teknikjättar som Google, Amazon, Facebook och Microsoft befinner sig i en vild kapprustning för att bli störst.

Enligt Microsofts vd Satya Nadella kan AI vara människans ­viktigaste uppfinning hittills.

Amazons grundare Jeff Bezos hävdar att AI innebär en ”ny guld­ålder”. Samtidigt har nog få missat rubrikerna där personer som Teslagrundaren Elon Musk och fysikern Stephen Hawking pekar ut AI som ett existentiellt hot mot mänskligheten, uttalanden som för tankarna till ”Terminator”, ”Matrix” och andra klassiska science fiction-berättelser.

För att få lite perspektiv på denna febriga fråga besöker jag Jerry Kaplan, entreprenör som redan på 1980-talet grundade flera AI-företag. I dag är han författare och föreläsare, bland annat på Stanford.

Han börjar med att vända sig mot själva termen artificiell intelligens.

”Den antyder att det handlar om föremål som får något slags eget liv, och det är nonsens. AI är maskiner som utför uppgifter baserat på analys av stora mängder data och egentligen bara en förlängning av en automatisering som har pågått i hundra år”, säger Jerry Kaplan.

”Tyvärr älskar AI-forskare att slänga sig med begrepp som skapar en orealistisk bild av vad tekniken kan åstadkomma. Det var samma sak på 1980-talet, då var det en enorm hajp. AI kommer utan tvekan att förändra mycket, men jag tror att de som går på dagens retorik blir besvikna.”

Och när Elon Musk kommer på tal suckar Jerry Kaplan:

”Med all respekt för de här personerna så uttalar de sig om ett område där de inte är experter. Men bara för att de är kända får det de säger stor spridning.”

Därmed inte sagt att Jerry Kaplan inte ser risker med AI.

”Det är viktigt att förstå att det är ett verktyg. En hammare kan användas för att bygga hus men också för att döda någon. Allt handlar om hur det används”, säger han och påpekar att mänsklig oro för ny teknik inte är något nytt.

”Om man för hundra år sedan hade berättat om moderna flygplan hade en person sagt: Herregud, det är ju förskräckligt, de kommer att kunna ­lastas med bomber och utplåna hela städer! En annan hade sagt: Fantastiskt, man kommer kunna resa över hela världen! Båda hade haft rätt.”

Jerry Kaplan menar att allt handlar om vilka instruktioner robotarna får, en fråga som inte är helt enkel. Han är bland annat inblandad i forskning kring självkörande bilar.

”Ska man till exempel programmera en robot att köra i 110 på motorvägen även om det faktiskt är säkrare att köra i 130, eftersom alla andra gör det? Vi människor ­följer en rad oskrivna lagar och konventioner som inte alltid är lätta att översätta till maskiner. Det är en utmaning.”

För att förstå mer om detta åker jag norrut till University of California i Berkeley, öster om San Francisco.

Dylan Hadfield-­Menell är doktorand och forskar kring frågan om hur vi får AI-system att uppföra sig som vi verkligen vill. Det visar sig att Jeff Bezos prat om en guldålder är ganska passande. Dylan Hadfield-Menell använder den klassiska sagan om Kung Midas för att förklara.

”Han bad en gud, som vi kan likställa med ett kraftfullt AI-system, om att allt han rörde vid skulle bli till guld. Tyvärr glömde han lägga in en instruktion om att göra vissa undantag”, säger Dylan Hadfield-Menell.

När Midas omfamnar sin dotter blir hon en staty, vilket får Midas att ångra sin önskan.

Ett praktiskt exempel är robotdamm­sugaren som får poäng efter hur mycket damm den suger upp, med tanken att det ska leda till rena golv. Men eftersom roboten också kan tömma ut damm ställer den sig i stället i ett hörn och tömmer och suger i all oändlighet.

”Vi kan skratta åt det eftersom det är en sak som kanske ett barn skulle göra. Men misstag av stora AI-system som används ute i verkligheten kan förstås få större konsekvenser”, säger Dylan Hadfield-Menell.

Det finns redan många exempel på hur AI-system har hamnat snett. Google klassificerade bilder på svarta amerikaner som gorillor, en chat­robot från Microsoft började sprida antisemitiska budskap på Twitter och rekryteringsverktyg har visat sig ­diskriminera efter ras och kön.

”En maskin kan inte på egen hand lära sig vad som anses rätt eller fel, moraliskt eller omoraliskt ur ett mänskligt socialt perspektiv.”

Ett sätt att uttrycka det är att maskinerna måste laddas med ett slags värderingar.

”Men vems värderingar ska tillåtas styra kraftfulla system och vad är egentligen allmänhetens intresse? Det är frågor vi funderar mycket på”, säger Dylan Hadfield-Menell.

Han tar ett exempel med finansbranschen, där AI har blivit allt vanligare.

”Ska en AI-handlare konspirera med andra AI-system för att tjäna pengar? Om roboten stöter på insiderinformation, ska den handla på det, och vore det olagligt?”

Det för oss till frågan om makten över AI.

Data brukar kallas för den nya oljan och när det gäller AI är det ett helt avgörande bränsle. Företag som sitter på stora mängder data – som Google, Facebook, Apple och Amazon – har ett enormt försprång. En utveckling som kan leda till att dessa företag, som av vissa redan beskrivs som monopolister, blir ännu mäktigare. Frågan är hur de kommer att använda tekniken?

”I dag förlitar vi oss i praktiken på företagens goda vilja. Och även om jag upplever att bolag som Google och Facebook tar de här frågorna på stort allvar är det inte så det borde fungera”, säger Dylan Hadfield-Menell.

Men att reglera en komplex teknologi är inte helt enkelt. Inom EU träder nya lagar i kraft nästa år, det så kallade GDPR-direktivet, som delvis omfattar AI.

”För mig och många andra AI-forskare är det väldigt oklart hur det kommer att fungera i praktiken”, säger Dylan Hadfield-Menell.

Klart är att enorma ekonomiska intressen står på spel. Drivkrafterna för att slippa hårda regleringar är stora.

Och även om Jerry Kaplan är optimistisk om att nyttan med AI trumfar riskerna är han tvärsäker när det gäller en av den nya teknologins konsekvenser: ökade ekonomiska klyftor.

”Automatisering leder till att förmögenheten koncentreras till en liten grupp, de som äger maskinerna. AI gör att det går ännu snabbare. De rika kommer att bli ännu rikare. Det kanske är okej om vi har ett system som fördelar vinsterna bredare. Men det har vi inte”, säger Jerry Kaplan.

Vad leder det här till i förlängningen om inget görs?
”Jag brukar säga att vi redan har haft ett folkligt uppror: Donald Trump sitter i Vita huset. Och då är vi alltså bara i början av AI:s genomslag. Det är en tanke som oroar mig.” 


Kommentera artikeln

I samarbete med Ifrågasätt Media Sverige AB:s (”Ifrågasätt”) tjänst Ifrågasätt erbjuder Dagens industri möjligheten för läsare att kommentera vissa artiklar. Denna tjänst tillhandahålls således av Ifrågasätt som också är ansvarig för tjänsten. De kommentarer som Ifrågasätt tillgängliggör på tjänsten visas i anslutning till di.se. Dagens industri granskar inte kommentarerna i förväg. Kommentarerna omfattas inte av utgivaransvaret enligt yttrandefrihetsgrundlagen och de är inte heller en del av den grundlagsskyddade databasen di.se. Läs mer om kommentering här.

Vi använder cookies för att förbättra funktionaliteten på våra sajter, för att kunna rikta relevant innehåll och annonser till dig och för att vi ska kunna säkerställa att tjänsterna fungerar som de ska. Läs mer i vår cookiepolicy.
Läs mer

Det verkar som att du använder en annonsblockerare

Om du är prenumerant behöver du logga in för att fortsätta. Vill bli prenumerant kan du läsa Di Digitalt för 197 kr inkl. moms de första 3 månaderna.

  • Full tillgång till di.se med nyheter och analyser

  • Tillgång till över 1100 aktiekurser i realtid

  • Innehållet i alla Di:s appar, tjänster och nyhetsbrev

3 månader för
197 kr
Spara 1000 kr

Prenumerera

Redan prenumerant?