Ikväll på Rapport pratades det om oron kring AI. Vissa forskare menar att tekniken kan utvecklas så snabbt att vi människor riskerar att tappa kontrollen. Några går till och med så långt som att säga att AI en dag kan dominera världen. För mig låter det nästan som den sämsta science fiction-rullen – typ I, Robot med Will Smith. Där börjar det med att robotar är en självklar del av vardagen i människors hem, men till slut tar en superdator kontrollen. Ironiskt nog är det just en robot, tillsammans med Will Smiths rollfigur, som till sist räddar världen.
När jag hör sådana resonemang kan jag inte låta bli att tänka: AI är ju trots allt ett mänskligt hittepå. Det är vi som bygger, programmerar och sätter riktningen. Då borde vi också kunna bestämma när det är dags att dra i nödbromsen. Vi måste inte testa varje ny möjlighet bara för att vi kan. Vi måste våga säga: hit men inte längre. Hur svårt ska det egentligen vara?
Men den stora frågan är förstås: går det ens att styra en sådan utveckling? Historien visar att när ny teknik väl har introducerats blir den svår att hålla tillbaka. Det räcker inte med att ett enskilt land sätter gränser – den globala konkurrensen driver på i en takt som är nästan omöjlig att bromsa. AI utvecklas inte bara i forskningslaboratorier, utan också av stora företag och stater där ekonomiska och strategiska intressen väger tungt. Frågan är därför inte bara om tekniken kan kontrolleras, utan också vem som har makten att göra det – och på vilka grunder.
Historien ger oss många exempel på hur konsekvenserna av ny teknik blivit tydliga först i efterhand. Industrialiseringen, digitaliseringen och sociala medier har öppnat enorma möjligheter – men också skapat problem vi inte förutsåg. Kanske är det just där min oro ligger: vad händer om AI utvecklas snabbare än vår förmåga att reflektera över dess konsekvenser?
För att knyta ihop säcken: nej, jag tror inte att AI kommer ”ta över världen” i bemärkelsen att robotar får mänskliga tankar och styr som i filmerna. Däremot tror jag att den som lyckas gå längst i utvecklingen får ett enormt övertag – och därmed makt. Jag oroar mig också för oavsiktliga konsekvenser. Vad händer om vi använder AI i system som redan är instabila? Vad händer om tekniken missbrukas för övervakning och manipulation? Eller om vi bygger system som är så komplexa att vi själva inte längre förstår hur de fungerar?
Jag vill verkligen vara positiv, men lite skrämmande är det tycker jag.
Håller med om att det är skrämmande.
Intressanta tankar! AI tekniken är spännande, men visst är det samtidigt skrämmande.
Ja det tycker jag med!
Är orolig å har varit länge. Senast idag på nyheterna talades det om ett musikalbum som dykt upp på Spotify, utan att artisten i fråga hade gett ut något… å ingen märkte nåt! Man erbjuder AI-hjälp för att skriva böcker, musiken ska vi inte tala om…
Håller med Ulf Lundell som skrev ungefär ”om jag trodde på att nåt som en djävul fanns så skulle den varit nöjd länge över nätet å nu AI på det”… själv tänker jag att mänskligheten gräver sin egen grav å jobbar bort sej själv. Leve det fysiska på riktigt sociala livet.
Tack för inbjudan till ett viktigt å intressant ämne.
Ha en fin kväll
Tänker också ofta att vi gräver vår egen grav. Det kommer bli tufft för de som är barn nu och ska reda upp i vår röra.
Lite otäckt är det i alla fall även om inte jag heller tror att det kommer att ta över.
Carin
Ja det håller jag med om! Vi får se vad som händer framöver.
Intressanta tankar. Det finns nog med all rätt en oro kring den tekniska utvecklingen. Om vi får en värld där människoliknande robotar går omkring på gatorna, som i filmen du nämner, eller robotar som tar över och startar krig, som i Terminator-filmerna, är väl mer tveksamt.
Värre kan det vara med jobben. Jag minns när industrin började robotiseras. Min arbetsgivare (ABB) beställde en specialtillverkad maskin som mestadels styrdes av robotar och där det bara krävdes en person för att serva, smörja och byta mtrl. Den maskinen producerade lika mycket som 8 anställda gjorde tillsammans. Jag minns när datorerna blev allt vanligare på arbetsplatserna. Det fanns fårhagor om att de skulle ta över arbetsuppgifter och i viss mån gjorde de också det – dock inte i den utsträckning man befarade. Nu sägs det att AI kommer att ta över allt fler arbetsuppgifter och här är jag mer orolig, för var ska alla jobba om den nya tekniken används i allt större utsträckning världen över?
Tänkvärd kommentar! Jag tänker att AI säkerligen kommer ta över till viss del vad gäller jobben. Men allt går inte att automatisera och även AI måste styras av människan på olika sätt. Sen har vi alla serviceyrken, lärare, busschaufförer, vårdpersonal med mera. Där kommer det fortsatt behövas människor som jobbar.
Du har en bra poäng där. AI är ändå en ”mänsklig” produkt, utvecklad av några genier som ju aldrig ser mera än själva utvecklingen. Konsekvenserna får någon annan ta hand om, eller hur AI används i framtiden. Eller redan nu.
Det manipuleras så oerhört mycket nuförtiden att BBC (och troligen flera media) har anställd personal för att verifiera att filmmaterial verkligen är äkta och inte AI generat. Och det är bara början.
´Vad gäller text så tycker jag att man som läsare än så länge kan skilja mellan AI och text skriven av en riktig människa. Vad gäller bilder blir det vanskligare och vanskligare enligt mig.
Ja man måste verkligen vara kritisk på ett annat sätt nu jämfört med förr. För ett tag sedan snubblade jag över en blogg där varje inlägg var skrivet av AI. Det var så tydligt att det inte gick att undgå att se. Men jag sa inget, vill bloggaren använda AI så är det ju upp till henne. Lite trist är det allt.
Jag är personligen övertygad om att internet kommer att bidra till vår undergång.
Se bara hacketsattacken mot Kommundata idag…
Jag tror att det faktum att vi gör oss så beroende av teknik i precis allt kommer förstöra för oss. Det är inte bra att göra sig beroende av teknik. Vad gör man den dagen då allt ligger nere?