AI – hot och möjligheter. Magnus Carling (# 188)
Description
"Det är en helt flock av vargar som kommer emot oss". Den liknelsen gör Magnus Carling i detta avsnitt som handlar om artificiell intelligens och vår framtid tillsammans med den. Magnus jobbar som CISO på Stena AB. Allt handlar om säkerhet och vara med på att kontrollera nästa steg.
Om avsnittet:
Målgrupp: allmänhet, ledning, it-folk, företag, ledare, projektledare, management
Lär dig: AI, digitalisering, cybersäkerhet, verksamhetsutveckling, machine learning
Vi gasar på i digitaliseringen och vi har inte reflekterat på att kanske måste bromsa. När vi exponeras av chatbotar som blir rasister och deep fake som används i propaganda så är detta bara början. Många vet inte hur detta kommer att påverka det vi gör dagligen.
Cybersäkerhet "one to one" bör kanske införas i skolan och vi behöver snart en "god AI" för att rädda oss från en "ond AI". Vi har idag robotar som forskar på att utrota covid. Kommer denna forskning att slå fel och forska fram ett nytt virus som är värre? Offensiva cyberkrigare finns redan och autonoma vapen finns. Hur reglerar vi etik och kanske vi behöver bromsa utveckling. Magnus ställer sig frågan om vi ska ha en AI som kan bestämma vem som ska anställas och avskedas.
Vi bör skapa en medvetenhet och prata om dessa hot och möjligheter. Säkerhet bör komma högre upp på alla verksamheters agenda. Organisationer ska börja dela kunskap och information mellan varandra. EU AI Act är ett av de första förordningarna som kan reglera AI.
Lär dig att kontrollera risken och skena inte iväg för snabbt med AI tillämpningar. Detta är en styrelsefråga inom våra organisationer, det kräver utbildning och det är en kultur som vi måste skapa för att kontrollera framtiden.
Magnus Carling, Jonas Jaani (24:58)
Videoversion av avsnittet
https://youtu.be/7Oakpr_JugQ
Länkar / mer information:
AI Act - https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:52021PC0206
Magnus böcker. Bland annat nya boken "Svart Storm" - https://www.magnuscarling.com/bocker/
Sahlgrenskas AI-arbete - https://www.sahlgrenska.se/forskning-utbildning-innovation/innovation/kompetenscentrum-ai/
Chattroboten Tay blev rasist - https://www.theguardian.com/technology/2016/mar/24/tay-microsofts-ai-chatbot-gets-a-crash-course-in-racism-from-twitter
Kurzweil om singulariteten - a href="https://futurism.com/kurzweil-claims-that-the-singularity-will-happen-by-2045" target="_blank" rel="noreferrer noopener...