Vi behöver ett IT-etiskt råd i Sverige

Det är artificiell intelligens (AI) som gäller och troligtvis kommer att bli 2018 års stora samtalsämne. AI testas och utvecklas inom alla områden och utbildning är inget undantag, tvärtom, här finns mycket att göra. Varför inte ha en egen personlig mentor som under hela din studietid följer dig och hjälper dig samtidigt som denna AI-mentor lär känna dig allt bättre så kan denna stödja dina styrkor och utveckla dina svagheter då denna intelligens känner dig. Det finns redan nu en del tjänster som börjar att slå in på denna väg. Ta t.ex. EmmaIdentity där du tillsammans med Emma kan jobba tillsammans för att förbättra dina texter samt upptäcka ev. plagiat, se film nedan:

Samtidigt så börjar alltfler att varna för konsekvenserna vad gäller AI där inte minst Elon Musk gång på gång varnar för följderna med AI. Läs t.ex. IDGs artikel: Elon Musk: 90 procents risk att AI utplånar mänskligheten eller DNs intervju med filosofen Nick Boström:  Filosof varnar för superintelligensen – ”är ett större hot än atombomben” .

Är all teknik bra bara för att den är effektiv och smart? Det är kanske frågan vi bör ställa oss och det som oroar mig är vilka det är som idag har makten i våra samhällen? Genom att ha kontroll på algoritmerna i våra digitala nätverk samt utifrån dessa kunna utveckla nya intelligenser så blir det hela oroande. I Sverige så hänger vi lite okritiskt med och i den Nationella digitaliseringsstrategin för skolväsendet så är det tydligt att målet med denna i mångt och mycket handlar om att "Sverige ska vara bäst i världen på att tillvarata digitaliseringens möjligheter". I sin tur handlar det om att vi skall satsa på IT i högre omfattning.

Men vad händer om allt går fel? Den fiktiva (hur fiktiv den egentligen är kan inte jag svara på) filmen Slaughterbots (se nedan), som producerats av http://autonomousweapons.org/ som är en organisation som verkar för att förbjuda vapen som bygger på AI, ger en skrämmande bild av vad AI kan innebära för vapenindustrin. Det är en skrämmande utveckling enligt min mening och makten ligger hos de som kontrollerar informationen.

Bill Keller vid New York Times sa en gång:

”It´s not having the information that´s important, it´s what you do with it”

Innan nu vår regeringen eldar på i frågan kring teknikutveckling bör kanske det skapas ett IT-etiskt råd som samlar kloka individer som kan se bortom profit och effektivitet för att se vad AI egentligen innebär för oss. Kanske borde det vara universiteten i Sverige (och internationellt) som skulle driva denna fråga för den är inte bara brännande...den kan bli avgörande för vår framtid. Jag tror inte att regeringen är rätt väg att gå i denna fråga, de har tyvärr för mycket fokus på Sverige som ledande IT-nation och duckar för de viktiga frågorna.

Tänk om din Wi-fi router kunde avläsa dina vänners känslor?

Vi har under flera år kunnat läsa om system som kan avläsa människors känslor genom att studera ansiktsuttryck eller deras tal men i de fall där jag som individ inte just kan tala eller där det är omöjligt att tolka ansiktsuttrycken så uppstår problem. Nu har MITs datavetenskap och artificiell intelligenslab (CSAIL) byggt ett system som heter EQ-Radio som kan identifiera känslor med radiosignaler från en trådlös router, oavsett om en person talar eller visar sina känslor med ansiktsuttryck.

EQ-Radion består av tre element. En RF-radio som avger lågfrekventa radiovågor och fångar sina reflektioner från objekt i miljön. En algoritm reagerar på de fångade vågorna, separerar hjärtslag och andningsinformation och mäter intervallet mellan hjärtslag. Slutligen matas hjärtslag och andningsinformation till ett maskinlärande som kartlägger personens emotionella tillstånd.

Det är en hel del teknik inblandad här men i stort handlar det om Artificiell Intelligens som via radiovågor mäter hjärtats rytm. Filmen nedan beskriver kortfattat vad det handlar om.

Det hela är spännande, inte minst med tanke på vad detta system skulle kunna göra inom hälsosektorn där indikationer på hjärtattacker mm skulle kunna bli viktiga. Däremot finns det klart mer komplicerade etiska implikationer gällande övervakning och datainsamling utan att individer känner till det. Vad som också är värt att notera är det faktum att AI är en viktig faktor inom i stort sett alla områden och diskussion som pågår just nu är huruvida AI är en farlig väg att träda in på. Läs mer om detta här samt Facebook-grundaren Mark Zuckerbergs svar på Elon Musks farhågor.

Utvecklingen inom artificiell intelligens kommer att fortgå och frågan är vilket nästa område som kommer att kopplas samman med AI?

När, var och hur lär vi oss? Och vem lär sig?

Är man bara tillräckligt finurlig så går det alltid att ta sig runt restriktioner eller förbud. Genom historien har elever (och lärare) på olika sätt fuskat sig igenom studierna där lappar har varit det vanligaste sättet. Med digitaliseringen så krymper hela tiden tekniken och det som tidigare krävdes omfattande investeringar och otymplig utrustning är idag tillgänglig för alla. För några hundralappar kan jag skaffa mig en utrustning som ger mig tillfälle att kunna få instruktioner via en minimal hörsnäcka.

Detta är inte ett problem för skolor som har yngre elever utan snarare uppstår dessa situationer på gymnasieskola och universitet och detta ställer krav på lärare och administrativ personal. Den grundläggande tanken måste vara att ställa frågor som kräver ett självständigt analyserande men samtidigt finns det ämnen som det är svårare att ställa sådana frågor inom.

För en tid sedan köpte jag utrustningen nedan bara för att se hur enkelt det är att ordna med en utrustning som inte syns med blotta ögat. Denna utrustning kopplas till den smarta telefonen och den lilla sensorn som visas på fingret stoppas in i örat (det finns idag mindre hörmoduler än den jag visar på bilden) och på så sätt kan jag höra allt som någon utanför kommunicerar med mig utan att andra hör detta.

Givetvis måste frågorna som jag vill ha hjälp med kommuniceras ut till min medhjälpare men det finns lösningar till det också (vilket jag inte tar upp här).

Då uppstår frågan...vad skall vi göra för att förhindra fusk av denna sort? Kan det vara aktuellt med att se till att alla mobiler lämnas in (detta är lätt att kringgå). Skall vi sätta in störsändare i lokalerna så att all elektronisk utrustning störs? (det är möjligt men kostsamt och komplicerat). Skall vi "muddra" samtliga skrivande innan det är dags för examinationen (troligtvis inte juridiskt genomförbart).

Faktum är att det inte finns någon lösning på detta. Det enda som kan vara till hjälp är att följa en elevs/students kunskapsutveckling och se till ev. oväntade förändringar.

Jag tror att detta är en stor utmaning för hela utbildningssektorn då tekniken bara blir mindre och mer effektiv? Forskning pågår  för att se hur man kan integrera inopererad teknik med våra hjärnfunktioner vilket blir nästa steg i utvecklingen i det att människa och maskin smälter samman. Vi tänker oss ofta att digitaliseringen av skolan handlar om fristående artefakter som människan nyttjar och interagerar med, kanske handlar det om något annat inom kort. Inte hur vi skall nyttja enheterna utan hur vi skall nyttja informationen som vi har tillgång till och den kanske viktigaste frågan: Vad är lärande och HUR sker lärande. Frågan om HUR blir ännu hypotetisk och just begreppet lärande kommer att förändras. För HUR vi lär har förändrats inte minst under senaste århundradet.

Om vi utvidgar resonemanget om lärande som tidigare handlat om NÄR, VAR och HUR så tillkommer nu också en fjärde dimension som är VEM? Då handlar det om hur vårt agerande, vårt lärande också blir till del av ett lärande inom t.ex. Artificiell Intelligens. Våra misstag ligger till grund för Artificiell Intelligens och här är vi bara i början av en spännande och utmanande utveckling.