Det är ett nöje att få presentera
vår panel som ska förutse framtiden-

-för artificiell intelligens.

Det är en ära att ha en så fin panel
som ska hjälpa oss med det.

Michael Levitt, Barbara Grosz,
Stuart Russell och Harry Shum.

Det är fantastiskt
att ha en sån mångsidighet med...

...pionjärer från den akademiska sidan
som Stuart Russell och Barbara Grosz.

Båda två har forskat
om artificiell intelligens i princip-

-sen jag slutade ha blöjor,
eller åtminstone sen jag var sex år.

Samtidigt har vi Harry Shums
industriella perspektiv.

Han leder
Microsofts teknologiska utveckling.

Vi har även användarperspektivet
på datorteknologin-

-från Michael Levitt som ju har sysslat
med kemi och fått Nobelpriset-

-för sin användning av datorer
för att bättre förstå naturen.

För att kunna ta oss an den
stora frågan om framtiden för AI-

-börjar vi med den närmaste framtiden.

Sen mot slutet kan vi
börja spekulera lite mer långsiktigt.

Vi lyssnade alla-

-till Ray Kurzweils optimistiska
beskrivning i morse-

-där vi har en stadigt
uppåtgående utvecklingskurva.

Samtidigt
tar många upp sociologiska aspekter.

Fältet har redan genomgått flera cykler
av hajp och besvikelse, hävdar de.

Min första fråga är... Om fem-tio år...

Tror ni att ni kommer
att fortsätta fira framstegen inom AI-

-eller klagar ni över att vi
har frusit fast i en ny "AI-vinter"?

-Vill du...?
-Jag kan knyta an till mitt föredrag.

Om man ser till olika aspekter av AI-

-så är jag säker på att inom fem-tio år-

-så är datorernas språk-
och taligenkänning-

-precis lika bra
som sin mänskliga motsvarighet.

Om lite drygt tio år
kan vi nog förvänta oss datorseende-

-alltså visuell igenkänning
av olika slags föremål.

Fast vi har en bra bit kvar dit.

-Stuart...?
-Jag vill gärna tro...

...att vi äntligen ser verkliga framsteg
på robotikens område.

Det är som hönan och ägget...

Det finns mekaniska problem
med att bygga robotar-

-som är lätta och har en flexibel
rörelseförmåga och "känsel".

De behöver "sinnen"
som ökar deras motoriska förmåga.

Det går väldigt långsamt framåt
på den fysiska sidan.

Det är svårt att investera
på den sidan-

-när robotarna
saknar de algoritmer som krävs.

Om ni har sett DARPA:s tävling
för humanoida robotar...

MIT:s robot stod på näsan.

Det enda de gör
är att försöka resa sig igen.

Jag tror att vi ska satsa på fyrbenta
istället för tvåbenta robotar.

Med framstegen inom datorseende-

-så tror jag att det blir möjligt
att använda robotar i olika miljöer.

Det kan handla om jordbruk
eller i hemmet.

Nuvarande robotar är väldigt effektiva
inom tillverkningsindustrin-

-där man kan skapa en miljö där
roboten fungerar utan "intelligens".

Det är ett stort problemområde
där jag förväntar mig stora framsteg.

Det andra är verklig språkförståelse.

Det är fantastiskt
att kunna förvandla tal till text-

-men om man inte förstår texten
så hjälper inte taligenkänning.

Att verkligen förstå språk är inte
att kunna processa miljontals sidor-

-och räkna ordet "Shakespeare".

Det handlar om att verkligen kunna
extrahera och interpretera mening-

-och svara på detaljerade frågor
om texten-

-och dess relation till information
från andra dokument.

Om det sker,
om så bara med en enda sida-

-så kommer vi snabbt
att kunna hantera miljontals.

Då har vi maskiner som har "förstått"
allt som mänskligheten skrivit.

Vi kan bara ana
hur viktig den kapaciteten blir.

Dagens sökmotorer, som Google,
kommer att blekna i jämförelse.

Vi har fått en optimistisk bild
av både Harry och Stuart.

Barbara, tänker du dämpa dem lite,
eller delar du deras optimism?

Tack, Max.
Jag har med mig en kristallkula.

Ifall nån skulle be mig
att förutsäga framtiden.

Men den avslöjar absolut ingenting.

Men tack för att det inte var förgäves.

1975 förutsåg jag att dialogproblemet
skulle vara löst 1980.

Jag har givit upp
att försöka förutse nåt.

Jag hade faktiskt planerat allt...
"Det måste vara klart 1980"-

-"och det kräver att vi har det här
1976, det här 1977 och det här 1978."

Först vill jag säga
att jag håller med-

-om kontentan
av det Harry och Stuart sa.

Men jag vill lägga till att om vi tar
det på allvar som vi sa tidigare-

-om vår interaktion med datorer och att
vi inte försöker replikera människor-

-utan istället tillföra dem nåt,
så tror jag på Harrys lösningar.

I kombination
med väl konstruerade gränssnitt-

-kan det öka människors kapacitet.

Både vad människor
kan göra i sina dagliga liv-

-med maskiners hjälp, men även
då det gäller vetenskapligt arbete.

Det leder oss osökt över till Michael.

Ja, tack! Jag tänkte ta upp
den ursprungliga frågan igen.

Frågan om AI:s med- och motgångar.

De beror nog på att resultaten
inte motsvarar förväntningarna.

Där vill jag nog
ge förväntningarna skulden.

Termen "artificiell intelligens"
verkar leda till hajp.

Resultaten motsvarar inte alltid
de upphaussade förväntningarna.

Jag har svårt
att skilja på artificiell intelligens-

-och databehandling via dator. Datorer
kunde multiplicera snabbare än jag-

-redan 1935 förmodligen.

Men ingen är ledsen för att datorer
är bättre på multiplikation.

Datorer är världsmästare i schack,
men schack är populärt ändå.

Att ha en dator i fickan
för att kunna fuska-

-skiljer sig inte från
att dopa sig i Tour de France.

Hela förställningen om
att datorerna tar över världen...

Det beror på om vi låter det ske.

Jag tror att vi kan vänta oss snabba
framsteg inom datortekniken.

Jag vet inte, men jag tror på robotar.

Jag skulle vilja se en robot
för 1 000 dollar-

-som kan ställa fram en omelett
på min köksbänk.

Det borde inte vara så svårt.
Kickstarter kan börja med det.

Robotar borde vara på samma nivå
som våra PC i dag.

Robotar som kan göra lite nytta.
Det borde vara möjligt.

Det skulle förändra hela området.

Jag vill ta upp en sak Michael sa.
Han träffar huvudet på spiken-

-när det gäller utmaningarna.

Det som händer just nu,
framstegen som görs på området-

-beror på tre saker:
1. Datorer är otroligt snabba i dag.

2. En enormt viktig sak är
att vi får mer och mer data-

-som kan användas språkligt
och visuellt.

Vi har haft turen att få fram
bättre algoritmer, som i Deep Learning.

På många specifika områden
har sånt här blivit verklighet i dag.

På tal om en robot
som kan utföra vissa vanliga sysslor...

Den dagen kommer. Jag vet inte
exakt när, men det gör nog Ray.

Men vi vet nog inte så säkert.

Den största utmaningen vi står inför-

-är vår oförmåga
att skapa "osäkerhetsmodeller".

Det handlar om sånt vi inte vet.
Att samla data och inlärning-

-kretsar kring gemensamma nämnare.

Men vi vet inte vilken robot
som är svårare att designa...

Är det en drönare
som landar på ett hangarfartyg-

-eller en liten robot för hemmabruk?
Den senare, tror jag.

Skälet är att vi inte kan skapa modeller
som tar hänsyn till att hus är olika.

I Sverige, i USA, i Kina.
Det är saker vi inte vet.

Det är de mest akuta problemen
som forskningen står inför.

Jag vill ta upp
hur vi hanterar våra förväntningar-

-för jag tycker
att det är väldigt viktigt.

Det Harry sa om datamängd
och snabbare datorer är helt sant.

Men resultaten beror på data.

Det finns problemområden
där data antingen saknas-

-eller inte finns i tillräcklig mängd.

Men det som sägs påminner mig
om en intressant synpunkt...

Du bad om förutsägelser...
2007 förutsåg ingen-

-att ekonomisk slumpteori skulle ha
betydelse för säkerhetsfrågor-

-men i Malaysia används det
för att skydda djurlivet i djungeln.

Man använder nåt vi är dåliga på,
nämligen att förstå slumpmässighet-

-för att hitta tjuvskyttar.

Det är exempel på nåt
som vi inte förutsåg för åtta år sen.

Förutsägelser är svåra, om man inte
vill skapa Ava i "Ex Machina" förstås-

-vilket jag inte
är säker på att vi vill.

Vi bör istället använda de idéer vi har
för att göra lite nytta.

Det du säger är väldigt intressant.

Michael, du formulerade det väl
när du sa-

-att den egentliga skulden
för besvikelserna i det förflutna-

-inte ligger hos framstegen
som faktiskt gjorts-

-utan snarare hos våra förväntningar.

Som moderator
får jag agera djävulens advokat...

Trots all optimism angående
teknologins framsteg vill jag fråga:

Hur vet vi
att det blir annorlunda nu?

Hur vet vi att optimismen
inför de kommande 5-10 åren-

-är realistisk
och inte önsketänkande-

-som beror på den goda
svenska maten och annat?

Jag skulle rita en framstegskurva
som ser ut så här.

Vi ser genombrott
i vår förståelse av algoritmer.

Vi ser
materialvetenskapliga genombrott.

En stor skillnad
jämfört med 1980-talet-

-då jag först såg de här stora...
Det började på 1960-talet.

...är att vi i dag har AI-system
som påverkar människors liv.

Rekommendationssystem, sökmotorer.
De existerar.

Nu handlar det om att bygga på-

-i motsats till
att bygga nåt från grunden.

Jag tror att när utvecklingen
når den punkt-

-exempelvis inom röstigenkänning-

-då det är värdefullare
att ha ett röstigenkänningssystem...

Förut var det bara plågsamt
att använda systemen-

-eftersom det tog dubbelt så lång tid
att rätta alla fel.

Men när systemen
medför ett reellt ekonomiskt värde-

-så är varje procents ökad kapacitet
värd många miljarder dollar.

Den industriella investeringscykeln
får fotfäste väldigt snabbt.

På fem år har industrins investeringar
vida överstigit-

-de statliga anslagen för AI
under de senaste 50 åren.

En annan skillnad är
att under tidigare "hajpcykler"-

-så var många anspråk byggda på-

-osäker teknologisk mark.

En teoretisk bas saknades nästan helt
för de system som skapades.

Nu har det förändrats helt.

Tyvärr för er som trodde att ni
skulle få roligt på en AI-konferens-

-så är såna i dag svåra att skilja
från matematikkonferenser.

Diagram, ekvationer, fakta, resultat
och en massa komplexa faktorer.

Fältet har blivit väldigt rigoröst,
vilket skapar den typ av utveckling-

-man ser inom fysiken och kemin
som bygger på årtionden-

-av matematiska modeller och teori.

Jag håller med Stuart.

Men som nån
som arbetar inom industrin-

-så är man tvungen att göra
någorlunda förutsägbara framsteg.

Jag har lyssnat på teoretikerna
när de talar om framtiden-

-men jag tror
att utvecklingen varken blir linjär-

-eller exponentiell.
Jag tror att den mer liknar en spiral.

Linjärt är trist, exponentiellt är
för optimistiskt... En spiral, tror jag.

-Talar vi om multidimensionalitet?
-Det är matematik.

Allt annat är tvådimensionellt.
Min spiral är i 3D.

Multidimensionalitet är rätta ordet.

Maskiner saknar IQ.

Vi kan inte mäta
hur AI utvecklas i siffror.

Människor har en mätbar IQ.

Det betyder att om nån är bra på
att översätta mellan flera språk-

-så är de nog bra på att skriva, läsa
och besvara frågor också.

Det gäller inte maskiner.

Världens bästa schackprogram
kan inte spela andra spel.

Inte ens på en ettårings nivå.

System som kan översätta språk
lika bra som en människa-

-kan inte läsa en bok
eller svara på en enkel fråga.

De är olika mänsklig intelligens.
De rör sig i hundratals dimensioner.

De rör sig i framåt i långa korridorer
i en smalt definierad riktning.

Det skapar system
som inte fungerar som människor-

-men är begränsat superintelligenta.

De kan veta mer än någon människa
har vetat eller kommer att veta...

-...men de kan inte planera nåt alls.
-Eller göra en god omelett åt Michael.

Nu när ni har givit uttryck
för er försiktighet-

-och lyssnat till Barbaras råd
om kristallkulan som inte fungerar-

-och uttryckt en mild optimism...

Låt oss strunta i all försiktighet.

Om vi skulle tillåta oss
att hänge oss åt lite önsketänkande.

Jag är nyfiken på vilken
som är er favoritapplikation av AI-

-som ni skulle vilja se förverkligas
under det kommande årtiondet?

Och hur skulle ni vilja att det
påverkar era egna liv och samhället?

Låt mig börja.
En sak jag verkligen skulle vilja se-

-är att ett system som Watson
blir obligatoriskt för beslutsfattare.

Och...

Det ska spelas in
av en bevakningskamera.

George Bush
frågar maskinen om Irak...

Om Watson inte säger ja måste han
redovisa varför han går emot beslutet.

Det fina är att rådgivare bara säger
det makthavarna vill höra-

-men vi kan anta
att AI är smart nog att inte göra det.

Ibland tror jag...
Jag hoppas ibland på...

...simulationer.

Politik är mycket svårare
än biologi eller kemi.

Det krävs nya metoder.

Simulera framtiden... "Ska vi
släppa in flyktingar eller inte?"

Vad blir resultatet? Vi måste tänka
tio drag framåt, som i schack.

Analysera implikationerna.
Det är det ingen som gör.

Det är vår framtid som står på spel.

Det här är nåt man hoppas får fotfäste.

Även om det bara
gäller rätt prosaiska frågor.

Jag tänker på de olika
navigeringsprogrammen för bilar.

Det finns ett jättebra som heter Waze.

Det kränker ens privatliv totalt.

Man skickar information till servern om
var man är och hur snabbt man kör.

Waze dirigerar en
baserat på vad bilen framför gör.

Det fina med Waze är att det
hjälper till att undvika familjegräl.

Min fru ville alltid ta den säkra vägen
och jag ville pröva en ny väg.

Tog vi en ny väg och kom försent
så var det alltid mitt fel...

Så nu gör vi som Waze säger.

Jag tror att det måste vara...

AI kan hjälpa oss i hemmet också.

Det kan hjälpa folk
att välja gardiner, eller så.

Man vänjer sig och folk
skulle bli mycket lyckligare ihop.

Jag tänker på det vi nämnde tidigare,
nämligen att maskiner-

-behöver social och emotionell
intelligens för att göra folk lyckliga.

AI kanske också
bara säger det man vill höra.

"Era gardiner är underbara!
Jag älskar dem!"

Jag tycker att det mest spännande
när man tänker på AI i framtiden-

-är tanken
på en "allvetande" personlig agent.

Det är som med termen alter ego.

Det handlar om ett andra jag.

Men det kräver att användarna
är villiga att verkligen samarbeta-

-med AI-systemen
om det ska bli verklighet.

Det är viktigt. Ta Michaels exempel...

Vilken typ av råd vill man egentligen
ha av sitt AI-system?

De ska vara personliga.

Men det går bara om man talar om
för systemet vad man tycker om.

Bara Michael vet hur han och hans fru
interagerar. Det är olika för alla.

Jag programmerade mig själv att alltid
hålla med min fru för länge sen.

Det är viktigt för familjelyckan.
Den vilar på den principen.

Men alla är olika.
Så man måste programmera sig själv-

-så att det blir rätt.

Jag tror på att ha rätt data för att
kunna programmera systemet rätt.

Den här alter ego-grejen-

-är framtidens viktigaste
och mest spännande AI-system.

Intressant. - Vad hoppas du på?

Nu när vi har hört drömmar om att
lösa internationella politiska kriser-

-och kriser i hemmet
så är det väldigt svårt-

-att ta upp nåt
som är mycket futtigare än så.

Så...

Det känns som om mina fantasier
är rätt vardagsnära.

Men jag hoppas att de förverkligas.

En av dem
har att göra med det Michael sa.

Det handlar om
att tillhandahålla råd och expertis-

-inte bara till myndigheter-

-utan för att öka folks möjlighet
till medbestämmande.

Det kan lyfta fram frågor
som engagerar allmänheten-

-så att de uppmärksammas
av makthavarna.

Sen gäller det som sagt sjukvården.

Jag hoppas på ett intelligent system-

-som verkligen kan få ett läkarteam
att fungera som ett team.

Det väcker ett antal stora frågor.

En är vem som ska ha tillgång
till specifik information.

Men det väcker också en fråga
som vi kanske bör prata mer om-

-nämligen övergången
från datorstyrning-

-till att en människa fattar besluten.
Hur och när ska övergången ske?

Bra! Stuart...

Utan kristallkula,
men med anden i flaskan...

Du varnade oss visserligen för sånt.

Om du fick en önskning
då det gäller AI-teknologi...?

Jag tror att en av de saker maskiner
verkligen kan hjälpa oss med-

-inom en relativt nära framtid är-

-att hantera större mängder information
än vi kan.

Jag kommer på två exempel.
Ett är på Michaels område.

Det handlar om den enorma mängden
information inom molekylärbiologin-

-angående celler och organ.

Det är för mycket
för en enskild människa.

Det skrivs ungefär en miljon uppsatser
i ämnet om året-

-och var och en nämner 500 olika
molekyler på de första sidorna.

AI skulle kunna bidra
med den kognitiva kapaciteten-

-att hantera all information.

Om vi kan använda informationen
för att skapa en enhetlig bild.

Den skulle inte vara definitiv,
eftersom vi saknar definitiva svar.

Den skulle inkludera
den osäkerhet som finns.

Ett av problemen inom såväl
naturvetenskap som humaniora-

-är att på grund av urvalskriterierna
för publikation-

-så har väldigt många resultat
som folk förlitar sig på-

-visat sig vara fel.
Det handlar om felaktiga fakta.

Man vill ju ha 95 procent
statistiskt säkerställda resultat.

Men om bara uppsatserna
med högst resultat publiceras-

-så är de flesta av dem nog felaktiga.
Det är ett statistiskt faktum.

Det är ett område
där vi kan ta fram en enhetlig bild-

-av vad vi vet, vad vi delvis vet
och vad som är osäkert-

-biologiskt
och i förlängningen medicinskt.

Jag vill göra nåt lite mer udda också.

Jag väntar mig
inga enorma statliga medel för det.

Jag vill göra samma sak med historia.

Det finns tidskrifter där folk ägnar
sitt liv åt att studera 12 lertavlor-

-med några assyriska inskriptioner.

Sen finns det andra tidskrifter
för specialister på forntida språk.

Det finns en enorm expertis,
men ingen korsbefruktning.

Vi kan inte samla informationen
för att förstå vår historia.

Det handlar om språkhistoria
och folkvandringar-

-och information från föremål,
texter och andra källor.

Det skulle verkligen hjälpa oss
att förstå oss själva-

-vår utveckling och hur kulturer
har utvecklats och interagerat.

Det vore nåt roligt
att ägna sitt liv åt.

Tack för alla spännande idéer.
Jag hoppas allt går i uppfyllelse.

Under de 10-15 minuter vi har kvar-

-tänkte jag återkomma till
de stora allmänna frågorna.

Låt oss prata om framtiden för AI
i allmänhet och i ett långt perspektiv.

Det gör förstås att vi vet ännu mindre
och tvingas spekulera ännu mer.

Men innan vi går in på detaljer
- och olika åsikter, hoppas jag-

-skulle jag vilja ställa en enkel fråga
som ni måste besvara med en siffra.

Frågan är: Om hur många år-

-kommer maskiner att kunna-

-tävla med människor kognitivt?
Ni får svara med "oändlighet".

Jag menar inte bara schack och att
översätta från franska till mandarin-

-utan även att laga en god omelett
som du tycker smakar bra-

-om man har
ett fungerande mekaniskt system.

Säg en siffra
mellan noll och "oändlighet"-

-då ni tror att det finns 50 procents
chans att vi har AI på mänsklig nivå.

Vill du börja?
Ni får utveckla era svar senare.

Jag har en fråga.
Du blir nog inte förvånad.

Allt du har nämnt handlar om frågor
där det finns ett objektivt "ämne".

Undrar du även om maskiner som
är bra psykoterapeuter och vänner?

Eller lämnar vi den kategorin
av mänskliga förmågor därhän?

Det får ni avgöra. Jag skulle vilja
hävda att det är en kognitiv förmåga.

Psykologer använder ju hjärnan.
Om du tror att maskiner kan det...

-Så du inkluderar hypotalamus?
-Ja, hela rasket.

Säg bara en siffra snabbt.
Det blir intressant att se skillnaden.

-300 år.
-300 år. - Och du, då?

Oändlighet.
Jag håller hypotalamus utanför.

-Och du?
-Jag tänker inte ge dig nån siffra.

Sist jag gjorde det
var vid en "inofficiell" diskussion-

-som journalisterna inte
fick rapportera om.

Så jag sa:
"Kanske under mina barns livstid."

Ett av dem sitter där längst fram.

Inom 20 minuter
rapporterade Daily Telegraph:

"Vetenskapsman förutser att robotar
tar över världen inom en generation."

Så det bär mig verkligen emot
att säga en siffra.

Max, du kan fråga min kristallkula
utan att få ett svar.

-Till sist. Vad säger du, Harry?
-Om de andra inte svarar så...

Om jag slipper bygga systemet
och om jag förstår frågan rätt...

Vi talar om 50 till 100 år innan vi
kan konstruera nåt med sån kapacitet.

Okej.
Ray Kurzweil nämnde tidigare år 2029-

-vilket ju är om 14 år.
Det här är intressant.

För publiken är det en mardröm
med en panel där alla är överens.

"Ja, ja, ja"... Det blir en klubb
för ömsesidig beundran.

Men så är det inte här. Vi har tur.
Vi har "oändlighet" och 50-100 år.

Vi har en deltagare som vägrar svara
och vi har 300 år.

-Vi tar en ny runda frågor...
-Börja från andra hållet.

Ska vi börja här? Varför är du
mer optimistisk än Barbara?

Man ska aldrig säga aldrig.

Man måste se på det
ur en vetenskaplig synvinkel.

Man ser till data
för att förutse vissa saker.

Förhoppningsvis
kan man dra rätt slutsatser.

Jag uppmuntras
av framstegen inom AI.

För 25 år sen, när jag började arbeta
med AI och robotik-

-så befann vi oss mitt i "AI-vintern".

Folk sa att det där med taligenkänning
aldrig kommer att fungera.

Men det finns många möjligheter.

Men som Stuart sa, så finns det skäl
att hävda att det här är rätt tid-

-att skynda på utvecklingen.
Den blir nog spiralformad.

Vi vet inte
när det sker ett stort genombrott.

Det finns svåra problem, som att skapa
modeller och hantera osäkerheter.

De problemen måste lösas.

Jag är rädd att det inte
sker under min livstid-

-så jag har inga problem med
att förutse saker när jag är borta.

Du svarade "oändlighet". Betyder det
att du anser att han är överoptimistisk?

Jag hade ett syfte
med frågan om hypotalamus-

-och om känslor och psykoterapi
eftersom det också handlar om etik.

Det finns saker
människor är skyldiga varandra.

Vi talade om det i diskussionen
om människor och datorer.

Det finns sånt maskiner inte bör göra.

Om man vill utelämna de sakerna-

-så kan man svara på frågan
om vilken typ av intelligent arbete-

-som vi kan tänka oss att överlåta
åt maskiner och när de överträffar oss.

Det har de redan. De är redan
mycket bättre på sökningar.

De har varit bättre på att räkna än vi
länge och väl.

Jag tror att vi även i fortsättningen
kommer att se AI-system...

...ta över fler uppgifter på områden
där maskiner kan vara intelligentare.

-Det kommer bara att fortsätta.
-För att klargöra...

Jag vill inte ha nån Ava
som i "Ex Machina".

-Det är inget realistisk mål.
-Det vill Google.

Google Deepmind har som mål
att skapa "övermänsklig" intelligens.

Det sitter 550 högutbildade personer
i ett kontorshus i London-

-och sysslar med precis det.

Så det kvittar på sätt och vis
vad vi vill.

För Google
har redan från början haft som mål-

-att använda artificiell intelligens
som en ekonomisk resurs.

De skulle kontrollera
en stor del av världsekonomin.

Men vill de verkligen
ersätta psykoterapeuter?

Jag tror inte att de ser det
som en stor del av världsekonomin.

Max, han har inte en annan åsikt,
han byter ämne istället.

För att se till att vi talar om
samma sak och klargöra det hela...

Michael har lyckats simulera
komplicerade molekylära system.

Tänk om Michael kan simulera
hypotalamus funktioner i framtiden.

Eller om nån om 500 år kan simulera
era hjärnor i deras helhet.

Skulle ett sånt system ha samma
kapacitet som en människa eller...

Tror du att det i grunden
är en omöjlighet-

-eller att folk väljer att inte skapa
såna system av etiska skäl?

-Vilket är det?
-Jag älskar "eller"-frågor...

...för då kan jag svara ja.

-Det beror på det andra skälet.
-Av etiska skäl?

Ja, jag menar...

Jag tror att det finns många bra sätt
att använda intelligenta system.

Jag gillar inte
beteckningen "artificiell intelligens".

Jag föredrar "intelligenta system".

De kommer nog att bli effektivare
och kunna hjälpa oss på olika sätt.

Det är så jag...

Det är min förutsägelse.
De kommer inte att ersätta oss.

Ja. - Michael, du sa 300 år.
Beror det på etiska hänsyn...

-...eller att det är en svår uppgift?
-Det var öppningsbudet.

Jag delar Barbaras åsikt att det
finns saker vi bara inte bör göra.

Precis som vi inte klonar människor
bör vi nog inte...

Om man pratar om en dator som inte
går att skilja från en människa...

Testet skulle vara att leva med nån
i ett år utan att veta vad de är.

Vilket är det exakt?
Jag tycker inte det är så intressant.

En annan sak oroar mig mycket mer...

Tänk er att det om tio år
går att skapa soldater.

Robotar som i princip
är oövervinnerliga.

Om det är den upplysta världens svar,
så är det ett hemskt svar.

Vi använder ju inte kemiska vapen
och knappast kärnvapen heller.

Jag anser att vi måste dra gränser.

Jag tycker det är svårt
att skilja på AI och datorer.

Är min iPhone en AI-enhet,
ett gränssnittsenhet, en räknare?

Jag tycker
att den kompletterar min intelligens.

Därför kan jag gärna kalla den AI.

Det finns inga tvivel om att datorer
blir allt viktigare för allt vi gör.

Jag hoppas att allt blir bättre. Att
fattigdomen har minskat är otroligt.

Jag kan knappt tro det, och jag tror
att teknologin har bidragit till det.

Det är ett glädjande perspektiv
och vi har skäl att vara optimistiska.

Snart ska vi
låta publiken ställa frågor.

Så för att sporra er i publiken
att ställa frågor-

-så vill jag fråga er en sista sak.

Vi såg resultaten av en enkät i morse
där två tredjedelar av alla här-

-trodde på AI på mänsklig nivå
under det här århundradet.

Så om vi ska tro publiken,
oavsett vad vi säger här på scenen-

-och AI på mänsklig nivå blir verklighet
nån gång under vårt århundrade-

-så lyder min fråga så här:

På en skala från noll till tio...

...hur oroliga är ni inför det här?

Tio betyder att ni verkligen oroar er
för att det ska gå snett.

Noll betyder att ni inte oroar er alls
utan utgår från att allt ordnar sig.

Om publiken har rätt, hur oroliga är ni?

-Noll.
-Okej, en optimist.

Om uttrycket "mänsklig nivå"-

-inkluderar de flesta människors
etiska nivå, så är jag inte orolig.

Om du menar att vi bara
ska skapa abstrakt intelligens-

-som inte har ett värdesystem
och etiska principer-

-inbyggda i sig,
så är jag väldigt orolig.

-Stuart...?
-Sju. Jag hör vad Barbara säger.

Du gav honom åtminstone en siffra nu.

Ja, om vi återvänder
till frågan om robotar.

Oövervinnerliga robot-soldater.

Vi står på gränsen.
Om fem-tio år kan vi få se-

-att de flesta av jordens
mäktigaste stater styr sitt försvar-

-med hjälp av autonoma vapen.

Det tror jag kan bli en extremt instabil
och farlig situation.

Skulle såna vapen kunna inta Irak?

Inte bara fälla bomber,
utan ockupera territorium.

-Ja, man kan föreställa sig...
-Robotar som invaderar och...

-Ja.
-Det kräver koordination.

Jag vill låta Harry svara
innan publiken får ställa frågor.

Han sa sju, så han är väldigt orolig.

Men han har visst hopp om
att vi lyckas. Han sa inte tio.

Då är jag tio minus sju,
så jag hamnar på tre.

Självklart har vi skäl att oroa oss.
Jag och Barbara pratade vid lunchen-

-om de etiska problemen
med att utveckla sån här teknologi.

Särskilt människors emotionella sida.

Den här typen av teknologi
kan ju bli ett kraftfullt vapen.

Jag tänker på robotar. Vi måste
använda teknologin ansvarsfullt.

Precis som med kärnvapen.

Man kan inte säga noll,
för det finns skäl till oro.

Jag vill ge publiken en chans
att ställa några korta frågor.

Vi vill ju inte hindra dem
från att ta en kaffepaus.

Vi har mikrofoner i publiken.
Se till att era frågor är kortfattade.

-Vi svarar kortfattat också.
-Får jag säga en sak.

Jag vill ta upp det här med att se AI
och datorteknologi som samma sak.

Om vi tänker på risken
för cyberkrigföring-

-så är frågan om cybersäkerhet
helt central.

Sen har vi riskerna
kring ansvarsövertagande.

Dessutom genomsyrar risken
för buggar i koden allt det här.

Det faktum att AI och datorteknologi
är så sammanlänkade-

-betyder att även riskerna
är sammanlänkade.

Det är en bra synpunkt.
- Ett par frågor. Vem har miken?

Säg vad du heter och vem du är.

Jag heter Axel och jag
läser kognitionsvetenskap.

Jag hoppas frågan faller inom ramen...

Tror ni att artificiell intelligens
eller intelligenta maskiner-

-måste ha mänsklig form,
eller ett mänskligt element-

-för att vi ska kunna
interagera med dem?

Det är väl en fråga om interaktion...

Vem känner att de vill svara?
En person för varje fråga.

-Vem vill svara?
-Svaret är nej.

Datorer kan interagera med människor
utan att låtsas vara människor.

I en tidigare paneldiskussion
pratade vi om vikten av-

-att kunna tolka människors
känslolägen och tillstånd.

Men det måste också tydligt framgå
att det är en dator som kommunicerar.

Jag vill föreslå ett förbud
mot robotar som är för humanoida.

De bör skilja sig morfologiskt
från människor.

Kanske med fyra ben och två armar
så att de inte lurar oss.

Jag tycker det är oärligt att ge nåt
mänsklig form som inte är mänskligt.

Bra synpunkt!
- En sista fråga före kaffet.

Fredrik Heintz.
Jag är ordförande i SAIS.

Jag undrar vilka områden inom AI
ni anser eftersatta?

Många här är studenter. Vilka områden
behöver vi jobba mer på?

-Alla.
-Jag kan ge dig ett snabbt svar.

I dag ser vi en stark koncentration
på det visuella och språkliga.

Jag hoppas att fler studenter ägnar sig
åt mer övergripande kunskapsfrågor.

Det är väldigt viktigt. En sak till...

Det finns många viktiga användnings-
områden som måste utforskas.

Min favorit just nu
är medicinsk användning.

Om man tänker på att 400 000
människor dör årligen i USA-

-på grund av medicinska misstag
som hade kunnat förebyggas-

-med data- och AI-teknologi,
så skulle vi kunna rädda många liv.

Sammanfattningsvis hör vi optimism
angående den närmsta framtiden.

Det finns massor av möjligheter
och vi har ingen "AI-vinter" att vänta.

I det längre perspektivet
ser vi också fantastiska möjligheter-

-så länge vi undviker
att göra dumheter.

Jag tror att det tydliga budskapet-

-som ni så väl uttryckte det-

-med era sjuor och nollor-

-är att vi inte ska se framtiden
som nåt som bara händer.

Som om vi bara är passiva åskådare
som inte kan påverka nåt.

Vi styr vårt öde och formar vår framtid.

Ett optimistiskt budskap
att bära med sig-

-är att vi ska skapa oss
den framtid vi vill ha.

Inte den dåliga.
Vi tackar vår panel!

Översättning: Andreas Palm Meister
www.btistudios.com