Olle Engdegård

Chef Prediktiv Modellering

Olle leder gruppen för prediktiv modellering som bland annat utvecklar UCs kreditscore. Han har tidigare jobbat med prediktiv analys inom bank och försäkring. Han har även en PhD i fysik med flera forskningsresor till Sydpolen i bagaget. Olle brinner för konstruktiva samtal om AI och att vi tillsammans ska kunna förstå vilka risker och möjligheter som finns. Förutom AI, maskininlärning och kreditscoring så bloggar han här också om alla sätt vi kan använda data för att förutsäga framtiden.

Data bygger tillit – i och utanför pandemier

Det är nu onsdagen den 1 april 2020 och covid-19-epidemin har förutom i sjukvården även börjat synas tydligt i varsel, uppsägningar, permitteringar, konkurser och företagsrekonstruktioner. Diskussionerna går heta om huruvida regeringen och Folkhälsomyndigheten agerar rätt i att hålla stora delar av samhället öppna. Fjorton forskare har skrivit en debattartikel som uppmanar Folkhälsomyndigheten att bättre redovisa sina beslutsunderlag. Men oavsett om man håller med dessa författare så är en sak klar: vi har aldrig haft så mycket tillgänglig information i en kris av den här storleken. Denna pandemi sker inför öppen ridå på ett sätt vi aldrig tidigare sett. Jag kan dagligen bevaka utvecklingen i världens alla länder och se siffror och grafer över det observerade förloppet. Detaljer om den svenska utvecklingen hittar vi på Folkhälsomyndighetens nya statistiksida. All denna information både skrämmer och lugnar. Vi kan jämföra vårt land med andra länder, vilket kan tvinga fram öppenhet från vår regering. När länder som drabbats tidigt av smittan delar sin data, hjälper det inte bara myndigheter och vårdplanerare runt om i världen att förbereda sig, utan ger även oss medborgare en klar bild av vad som kan vara på väg. Vi har då ungefär samma information som våra myndigheter, vilket gör det lättare för oss att ställa krav på dem men också att lita på dem. För att fatta kloka beslut i denna nya situation söker både medborgare och myndigheter bästa möjliga faktaunderlag och jag ser några principiella likheter mellan de utmaningar som regeringen står inför och mindre dramatiska frågor i våra kunders vardag. Det handlar om hur man agerar på tillgänglig information. En enkel punktlista kan se ut så här: Samla in data Förstå data Agera på data Det kan låta som självklarheter, så låt oss dyka ned i vad de innebär. Samla in dataDetta är vad Folkhälsomyndigheten gör nu, tillsammans med deras kollegor runt om i världen. De hjälps åt att skapa den mest imponerande, heltäckande och uppdaterade krisbild vi någonsin sett. Men redan här väcks frågorna: Vet vi tillräckligt eller måste vi testa mer? Litar vi på Kinas statistik? UCs kunder står i sin vardag inför liknande frågor. Vet vi tillräckligt mycket om vår kreditprocess och portfölj? Bör vi göra några tester i vår prissättning för att förstå marknaden bättre och hur stor del av ansökningarna vågar vi avvara till dessa tester? Förstå dataExpertmyndigheter hjälper inte bara regeringen att förstå utvecklingen utan utbildar hela befolkningen. Många pratar nu om att ”platta till kurvan”, vilket är en stor folkbildande framgång. På samma sätt som att Sverige tjänar på att inte bara regeringen förstår vad som händer, tjänar alla datadrivna organisationer på en utbredd förståelse för sin egen data. Ju mer kunskap som finns spridd desto bättre blir också de snabba besluten. Agera på dataHär börjar det bli svårt. Den svenska regeringen har valt att till hög grad följa expertmyndigheternas råd. I Brasilien säger president Jair Bolsonaro att covid-19 inte är värre än en liten snuva. På kreditmarknaden ser vi kreditgivare som, trots tillgång till UCs fullständiga kreditupplysning, ändå väljer att betala ut mer lån till redan högt skuldsatta personer. Det är tydligt att det inte räcker att ha information, eller ens att förstå den, om det inte finns en vilja och kompetens att omsätta det i handling. Vare sig du befinner dig i en liten organisation eller en stor statsapparat är tillgången på data större än någonsin och detta märks extra tydligt när beslut måste fattas snabbt. Men det förutsätter också att där finns förståelse och vilja att agera. Tilliten till myndigheter varierar stort mellan länder och i mätningar kommer Norden ofta högst upp. Man kan tänka sig att denna nya pandemidata gör störst nytta i länder med lågt förtroende: Om regeringen inte agerar korrekt kan den ställas till svars (om landet är tillräckligt fritt) och om regeringen faktiskt agerar korrekt utifrån tillgänglig information kommer tilliten öka. /Olle Engdegård

AI behöver regleras - Hej GDPR!

Googles VD Sundar Pichai skrev häromdagen en debattartikel i Financial Times om att AI behöver regleras. Jag håller med, denna teknologi skapar nya risker som behöver diskuteras öppet och även hanteras tillsammans. Varje medborgare har dessutom en starkt motiverad rätt till insyn i hur den personliga datan används. Mycket av oron gäller just hanteringen av personlig information och där täcker GDPR redan mycket, så låt oss först se hur våra myndigheter tolkar GDPR innan vi kräver riksdagen på nya lagar. Är det ok att använda ansiktsigenkänning? Datainspektionen granskade flera fall av ansiktsigenkänning under 2019. Först inleddes ett ärende mot Nordic Tech House (som vid tidpunkten hade Isabella Löwengrip som storägare). Bolaget planerade att skanna ansiktena på besökare i en butik men efter datainspektionen inledde granskningen verkar de ha backat från de ambitionerna. Sedan beslutade Datainspektionen om böter för en gymnasieskola i Skellefteå som på prov använde kameror för att automatiskt registrera elevernas närvaro. Datainspektionen avslutade sedan året med att först i princip godkänna Polisens plan på att använda ansiktsigenkänning för att utreda brott (med vissa förbehåll), men sedan underkänna Polisens planer på att skanna ansikten på Skavsta flygplats utan en lagändring. Befintliga lagar Dessa exempel visar att AI faktiskt är reglerat idag, åtminstone när det gäller hantering av personliga uppgifter. Vi ser att ansiktsigenkänning inte är helt fritt att använda men heller inte strikt förbjudet så länge du följer GDPR. Andra befintliga lagar kan täcka andra risker med AI: att utge sig för att vara någon annan kan vara bedrägeri och kanske kan det även anses vara bedrägeri om jag släpper lös fem tusen AI-styrda twitter-botar för egen vinnings skull. Den som med AI modifierar filmer så att ett ansikte klistras in i exempelvis en pornografisk scen (s.k. Deepfake) kan åtalas för grovt förtal eller olaga integritetsintrång. Den som använder en diskriminerande AI i sin rekryteringsprocess kan dömas för just diskriminering. Sammanfattningsvis har vi i Sverige en stark arsenal av lagar att ta till när personer använder AI för att skada andra människor, med eller utan avsikt. Vi kan därmed se fram emot framtida AI-innovationer med trygg tillförsikt, åtminstone på kort sikt. /Olle Engdegård