Representanter från offentlig sektor och näringslivet samlades nyligen för att diskutera de utmaningar som AI medför inom offentlig sektor. Målet var att synliggöra dessa utmaningar för att på sikt hitta lösningar för att hantera dem på ett ansvarsfullt sätt.
Samtalet samlade ett antal deltagare från olika organisationer, däribland Lars Lundberg från ThinkAI, Håkan Hagerum från Ditas Consulting, Kristina Lundevall från Stockholms Stad, Elda Sparrelid från Region Stockholm, Mats Snäll från DIGG Myndigheten för digital förvaltning, Åsa Otterbjörk från Region Stockholm, Daniel Ekström från ADC Amsterdam Data Collective, Johan Källstrand från Parlametric, Mandi Hallstensson från Pensionsmyndigheten, Mårten Lindskog, Stockholms Stad och Anna Ray från FEI Företagsekonomiska Institutet.
Ett av de viktigaste ämnena som diskuterades var transparens och tydlighet vid utveckling och inköp av AI-system. Deltagarna var överens om att det är avgörande att vara öppen i processen för att skapa förtroende och förståelse för beslutsstöd som används. För att kunna vara effektiva beställare av AI-lösningar behöver de offentliga aktörerna utveckla sin kunskap och kompetens inom området. Det behövs även verktyg för att bedöma färdiga lösningar och säkerställa att kraven uppfylls.
Förtroende är en central faktor för att kunna använda AI-system i offentlig sektor. För att undvika att hämma utvecklingen av AI är det nödvändigt att lyfta fram transparens och bygga förtroende för systemen. Deltagarna betonade även vikten av att öka den digitala mognaden inom domstolarna för att kunna hantera AI-relaterade frågor på ett adekvat sätt.
För att säkerställa en likriktad och systematisk hantering av AI inom det offentliga behövs ett kontrollsystem där beställare, utförare och medborgare är involverade. Varje organisation bör ha en systematik för att kunna svara på frågor och följa regelverket.
Etiska frågor är också centrala när det gäller användningen av AI-system där beslutsprocessen inte kan förklaras. Deltagarna var överens om att vi behöver ha tillit till dessa system på samma sätt som vi har för läkemedel och medicinteknik. För att säkerställa kvalitet och säkerhet behövs bra regulatoriska modeller.
Sammanfattningsvis framkom det under samtalet att Förtroendemodellen är ett verktyg för självutvärdering av användningen av AI inom offentlig sektor. Modellen syftar till att öka öppenhet och transparens. Trots att förtroendemodellen är känd inom offentlig sektor ansågs den inte vara tillräckligt praktisk för att användas i det dagliga arbetet. Det finns en stor efterfrågan på verktyg och stöd för att utveckla och ställa krav vid inköp av system som använder AI. Det finns också ett behov av att öka kompetensen inom AI inom offentlig sektor, både bland förvaltningspersonal och leverantörer. Slutligen betonades risken att utvecklingen av AI inom offentlig sektor kan hämmas om det inte finns tillräckligt med transparens och tillit.
Detta samtal i Stockholms stadshus markerar en viktig milstolpe i arbetet med att skapa en ansvarsfull och etisk användning av AI inom offentlig sektor. Genom att fortsätta diskutera och samarbeta kan vi säkerställa att AI-teknologi används på ett sätt som gynnar samhället och främjar förtroende och tillit.
Samtalets deltagare:
Lars Lundberg, ThinkAI
Håkan Hagerum, Ditas Consulting
Mårten Lindskog, Stockholms Stad
Kristina Lundevall, Stockholms Stad
Mats Snäll, DIGG Myndigheten för digital förvaltning
Inbjudan till live-webbinar och dialog den 9 oktober:
– AI i Sverige, Europa och världen så in i Norden aktuellt.
Vi bjuder in till ett spännande live-webbinar där vi kommer att diskutera Sveriges position som AI-nation och hur vi kan bli ännu mer framgångsrika inom området. Detta evenemang kommer att samla forskare, representanter från näringslivet och den offentliga sektorn för att främja dialog och utbyta idéer om AI-utveckling och användning.
AI-teknik har en enorm potential att förändra vårt sätt att arbeta och driva verksamheter. För att säkerställa att Sverige är i framkant av denna utveckling är det viktigt att vi har en gemensam förståelse för vår nuvarande position och de åtgärder som krävs för att stärka vår AI-kompetens.
Frågeställningar:
Hur ligger Sverige till när det gäller AI-utveckling och användning jämfört med andra länder?
– Vilka är våra styrkor och svagheter? – Hur står vi oss i konkurrensen?
Hur påverkar lagar, regler och etik utvecklingen av AI?
Vilka regler, riktlinjer och policyer behöver vi införa för att säkerställa ansvarsfull och etisk användning av AI?
Vi är glada att kunna presentera en panel av experter inom AI-området som kommer att dela sina insikter och perspektiv. Det kommer också finnas en möjlighet för er att delta i diskussionen och ställa era egna frågor.
Juha HEIKKILÄ Adviser for Artificial Intelligence in the European Commission Directorate-General for Communications Networks, Content and Technology,
Darja Isaksson, Director General, Vinnova, Sweden
Fredrik Heintz is Professor of Computer Science.
Johan Harvard, Vice President Strategic Advisory, Silo AI
Through the session we will share our experience on working on ethical AI from design to implementation. The seminar is based on experiences from working on ethical AI in the public, financial and life science sectors. We will further share insights on:
Defining and measuring fairness for AI-applications
How to navigate compliance and public discourse surrounding AI development
Connection with the upcoming AI Act and implementations currently seen in the Netherlands
Huvudtalare: Casper Rutjes PhD, CTO, Amsterdam Data Collective
Datum 18/4 kl. 09:15 – 11:00
Vill du delta fysiskt, skicka då ett mail till: fysiskt@thinkai.ai
Vill du delta digitalt, skicka då ett mail till: digitalt@thinkai.ai
Vi kommer att få höra ett föredrag från Patrick Eckemo som idag arbetar med AI på bolagsverket. Patrick har lång erfarenhet från AI i statliga förvaltningen och utvecklingen inom EU.
Hur skapar vi förutsättningar för hela offentlig förvaltning att utveckla och använda AI på ett robust, säkert och etiskt sätt samtidigt som vi inte begränsar innovation och utveckling? hur involverar vi näringslivet?
När: 17 Mars kl. 09.00-11.00
Vart: FEI, Kammakargatan 10 i Stockholm eller digitalt.
Anmäl dig på länken om du vill delta fysiskt på Kammakargatan 10, Stockholm. Think AI 17 mars
October 11 at 09.30 to 11.00 the results from a survey targeted at AI experts are presented by Mats Lindgren, CEO of Kairos and Mårten Lindskog, AI coordinator for the City of Stockholm.
The survey was conducted during the spring in Sweden.
