Matematiken som styr våra liv - Hur vet vi det? (2)
Och det klart att vi har haft en fantastisk nytta av elektricitet
men i och med att det är en generell teknik
om jag nu återgår till AI här också då
så betyder det att den kan användas på gott och på ont.
Och den kan ju ha negativa konsekvenser som i det här fallet då
när man har sett att överdriven
konsumtion av sociala medier bland amerikanska ungdomar
har negativa effekter på psykisk hälsa.
Det är fortfarande osäkra resultat. Det är ett så komplext system av faktorer.
Men det verkar som att det finns negativa effekter och även på politisk polarisering
och sådana saker. Så det behöver inte ens finnas onda avsikter
för att tekniken ska skapa problem.
Vet du om det finns någon forskning just om de globala hållbarhetsmålen och AI?
Det finns en aktuell studie från en grupp på KTH
och medarbetare på en del andra håll där de tittar på precis det här.
Hur många är de nu, FN:s globala hållbarhetsmål?
-Är de 17 stycken? -17.
Sen finns det några delmål också.
Ja, och det visar sig att...
de har gått igenom den specialiserade litteraturen om olika AI-tillämpningar.
Det visar sig att på samtliga områden finns det tydliga tecken på
både på positiv potential och på risker.
Så situationen är väldigt komplex.
Men det jag tycker är den viktigaste lärdomen av det här
det är att vi behöver agera med högre grad av förutseende
för att styra utvecklingen mot sånt som faktiskt har positiva sociala effekter
och inte bara...
Har man bara de kommersiella intressena för ögonen
så kan det bli bieffekter på tredje part och sådana saker.
Jag skulle vilja se en större medvetenhet
och kanske också hos de stora företagen som utvecklar dessa produkter.
Kanske också från statlig sida.
Att man går in och reglerar och kräver insyn och så
för att det här en utveckling som kommer att ha genomgripande verkan,
det har redan genomgripande verkan på våra liv, men vi är bara i början av den.
Då gäller det att de här effekterna blir positiva.
Vill vi, så kan vi.
Vill vi, så kan vi.
Det finns stora möjligheter i det här.
Jag vänder mig till dig som lyssnar:
Glöm inte att du kan ställa frågor i chatten till forskarna här.
Vi samlar ihop det vi får in och tar det vi hinner om en liten stund.
Men... vi ska titta på den goda sidan av AI.
Jonas, hur kan AI öka vår livskvalitet?
Vi har många problem i vardagen
som skulle kunna lösas med AI-system.
Det kan ju vara vår hälsa, det är en sådan sak.
Så klart om vi får bättre hälsa så ger det en ökad livskvalitet.
Jag tror att en stor sektor
inom AI-utvecklingen framöver kommer att handla om hälsomonitorering,
alltså prediktion att förutsäga liksom
att det finns ett bekymmer eller ett problem och att man ska kolla upp sig.
Då kommer AI vara det som driver någon slags övervakning.
Det finns också mycket problematiska aspekter kopplat till det.
Vi kanske vill göra det här
för att det ger oss en ökad möjlighet att ha koll på om det händer någonting
men samtidigt kanske det kopplas in försäkringsbolag, försäkringar och annat.
Där kanske det krävs att vi har de olika monitorerna eller så
kopplade för att vår premie inte ska gå i taket.
Då riskerar det ju att det skapas nya klyftor i samhället.
Det är som om en lösning föder nya frågor
och nya utmaningar hela vägen.
Alla utvecklingar vi kommer att se framöver
löser ett problem och sen så har vi fått två nya kanske.
Ja, det är sant.
Men det är ju det som fascinerar någonstans, att det aldrig tar slut.
I Göteborg pratar man ju mycket om den smarta staden
och jobbar med elektrifiering och en digital tvilling av staden
som man kan jobba i. Vad kan man göra där?
Mycket med det har ju... Den stora delen med AI-utvecklingen här i Göteborg
handlar ju väldigt mycket om fordonsindustrin.
I den sektorn så vill man ju lösa det här med självkörande fordon.
Mycket av utvecklingen handlar om hur man ska få bilarna att köra på egen hand.
Det är ju AI som behövs för att kunna lösa problemen.
Där kommer vi nog att se lösningar framöver där
mer eller mindre automatiserade fordon kan köra
kanske inte överallt men inom vissa områden.
Det finns ju massor av möjligheter och vi sätter stort hopp och tilltro till detta.
Vilka samhällsfunktioner styrs av AI? Kan du ge något exempel, Olle?
Om vi pratar om digitalisering lite bredare
så är ju hela samhället idag mer eller mindre upphängt på internet.
Om vi förlorar internet så förlorar vi till exempel...
hela bankfunktionen.
Det är inte alla i dag som ens har kontanter.
Vi får mer och mer nytta av dessa funktioner
men det finns också en robusthetsfråga.
Tappar vi funktioner i det här systemet och det kan ske på olika sätt,
i krigssituationer till exempel.
Det finns många sätt det kan ske på.
Det finns risk att följdverkningarna blir mer dominoartade
än det tidigare samhället som var mer lokalt organiserat.
Digital säkerhet, det är inte helt enkelt.
Det är det verkligen inte.
Vi ska väl ändå se hur vi kan motverka det här?
En vanlig enkel humanist som jag själv tänker så här:
Kan man dra ut sladden om någonting går åt skogen, Jonas?
Och bara stänga av liksom?
Det blir ju svårt när vi har en så hög grad av digitaliserad värld.
Systemen bygger ju också på att de får sin kraft av att de är stora och övergripande.
De hänger ihop med varandra och då blir det väldigt svårt.
Vi kan inte dra ut sladden på internet. Det är byggt för att det inte ska gå.
Så kommer man att bygga dessa system också.
Men ström kommer ju att vara
en sådan faktor som behövs för att hålla det här igång.
De blir ju integrerade med varandra och genom det så
kommer vi att se att vi får ut nya effekter av det.
När saker talar med varandra så kan vi få smartare städer
och bättre logistiklösningar och allt detta.
Men det kräver också att allting är igång.
Jag tror inte att en enda pusselbit kommer att rubba helheten.
Det finns en risk av vi människor, i takt med att vi får
mer och mer genomgripande teknik med det som kallas för internet of things
där alla våra saker hemma är uppkopplade på olika sätt
att vi tappar kompetenser.
Redan idag är vi mycket sämre på att komma ihåg telefonnummer till våra vänner.
Vi behöver det helt enkelt inte.
Jag hade säkert 15 telefonnummer i huvudet när jag var liten.
Nu har jag knappt ens mitt eget.
Och det går att föreställa sig en framtid
där vi, om internet går ner, inte längre kommer ihåg när vi ska borsta tänderna.
Vi har fått den där påminnelsen från tandborsten att det är dags att borsta.
Vi får hoppas att vi inte hamnar där
och lita på att det där som vi får lära oss finns kvar, tänker jag.
Vi pratar om att bygga säkrare system.
Det borde väl ändå gå att ligga lite i framkant med säkerheten eller, Jonas?
Det är en utmaning ändå med
säkerhet men jag tror att man försöker också jobba med AI
som en typ av lösning för att skapa säkerhet.
Och se om man kan upptäcka hot och intrång och sånt.
Som du var inne på är det generell teknik så den ju användas åt båda håll.
Det kommer också att användas för att utföra cyberattacker framöver.
Det är jag helt övertygad om.
Det blir liksom någon slags kapplöpning i det här med att åstadkomma säkerheten.
Ja, vi reder ut begreppen.
Man pratar om AI och så pratar man om AGI.
Det finns en skillnad. Jonas, kan du förklara?
Olle heter jag. Artificiell generell intelligens.
Det är alltså... All den AI vi ser omkring oss idag
det är det man kan klassificera som snäv AI
specialiserad AI, AI för en viss funktion.
Det är AI för att framföra en bil trafiksäkert i stadsmiljö till exempel.
Artificiell generell intelligens är en hypotetisk framtida teknologi
som har alla de förmågor vi associerar med mänsklig intelligens.
Hela spektret av kognitiva förmågor.
Det är något av ett hägrande moln för delar av AI-samhället och
de sista två årtiondena så har det uppstått ett växande forskningsområde
där man har börjat inse att det här reser särskilda svårigheter
kring säkerhet och så.
Att skapa en maskin som i termer av allmänintelligens
överträffar oss människor, skapar också en situation
där vi inte kan ta för givet att vi människor kan behålla kontrollen.
Då hänger allt på, ifall vi hamnar där
att maskinerna är programmerade med drivkrafter och mål
som är i linje med våra.
Det har visat sig vara en svårare nöt att knäcka än man kan tro.
Det är här vi delvis lägger vårt öde i händerna på matematiker och AI-experter
som utvecklar och för vidare här.
För någonstans, Jonas, får vi väl ändå tillbaka det vi puttar in?
Handlar det om att ställa rätt fråga till systemet för att det ska funka?
Ja, det är ju viktigt att man förstår vad man ställer för frågor.
Systemet skapar inte egna lösningar hur som helst
utan det är hela tiden fram och tillbaka mellan den som utvecklar och skruvar
och stoppar in information och vad man får tillbaka.
Det är en väldigt viktig del men samtidigt så är det också...
Eftersom det bygger så mycket på data så
beror det man får tillbaka på vad man har haft för data och den kan ju vara
väldigt oöverskådlig. Det är svårt att veta
vad det finns för information i den datamängden.
Det är ännu svårare att veta vad det finns för skevheter och
vad som inte finns i datan.
Jag såg en studie där man hade tittat på bilder från folks hem
och fotograferat vad som finns i hemmen, vilka objekt.
AI-systemet var duktigt på att känna igen vardagsobjekt i hem från rikare familjer
men så fort du kom till fattigare familjer
kunde den inte känna igen att det var en tvål eller en tandborste
för att tandborsten inte var placerad i ett sammanhang som i ett badrum
utan den kanske var bland andra saker.
Datamängden den hade tränat på hade en sådan tydlig skevhet mot
rikare samhällen helt enkelt.
Det är ganska svårt att upptäcka den typen av saker då.
Man får ju liksom testa sig fram då.
Det krävs en viss fantasi och tänka utanför den snäva boxen när man testar.
Man ser inte bortanför det man är van vid och många utvecklare kommer ju från...
Det är ju en begränsad del av världen som bygger detta
och då får man inte den representationen globalt som skulle behövas.
Det blir en stor utmaning.
Nu är vi inne på de stora samhällsutmaningarna
att man får lösa det tillsammans.
Det räcker inte med matematiker och AI-experter här.
Om vi sätter ihop olika discipliner kring en fråga.
Vi pratade om stadsplanering, vad skulle man kunna se där?
Jag tror att man måste jobba över väldigt många discipliner
och samarbeta i sådana här projekt när man ska tillämpa en sån AI-teknik.
Och ta in olika intressenter, få dem att kommunicera
och förstå tillräckligt mycket av hur systemen fungerar
och vad de behöver för att fungera.
Men det kan inte bara ligga på teknikutvecklarna
att ta de beslut som behövs utan det måste till mycket mer.
Det beror på vilket sammanhang det handlar om.
Om det är staden så är det vilka som bor i staden och vilka som ska vara där.
Men det är som du säger, det är bra att kunna lite om systemet
och matten och AI:n som är bakom för att kunna ställa rätt frågor
och förstå vad man pratar om.
Både frågor och ställa krav. Jag vill inte att det ska fungera så här.
Jag vill att det ska...
