EU:s AI-förordning
För att AI ska kunna användas brett och säkert i samhället behövs spelregler. Mycket av debatten under de senaste åren har handlat om rädslan för “vilda västern” – att tekniken rör sig snabbare än lagstiftningen och att oreglerad AI kan hota allt från demokratiska val till personlig integritet. Svaret på denna utmaning stavas EU:s AI-förordning (EU AI Act). Detta är ett historiskt dokument, då det är världens allra första heltäckande lagstiftning gällande artificiell intelligens, och det påverkar hur teknikföretag och användare måste agera över hela Europa.
För att förstå AI-förordningen behöver du inte vara jurist. Grundbulten i hela regelverket bygger på en riskbaserad strategi. Det innebär att EU har insett att all AI inte är likadan. Att använda AI för att sortera din skräppost är inte samma sak som att använda AI för att analysera röntgenplåtar eller avgöra vem som ska få ett banklån. Förordningen delar därför in AI-system i en trappa med fyra olika risknivåer, och kraven ökar dramatiskt ju högre upp i trappan systemet befinner sig:
-
Oacceptabel risk (Förbjudna system): Högst upp hittar vi AI-system som utgör ett direkt hot mot människors säkerhet, rättigheter eller grundläggande demokratiska värderingar. Dessa är strikt förbjudna i EU. Exempel på detta är system för “social poängsättning” (social scoring) av medborgare baserat på deras beteende, eller AI som använder subliminala tekniker för att manipulera mänskligt beteende och orsaka skada.
-
Hög risk (Strikta krav): Här hittar vi AI som direkt påverkar människors livsavgörande beslut eller säkerhet. Det kan handla om AI som används för att sålla ut kandidater i en anställningsprocess, mjukvara inom medicinteknik, eller system som används av polis och rättsväsende. Dessa system är tillåtna, men de måste genomgå rigorösa tester. Företagen bakom dem måste ha loggning, extremt hög datasäkerhet, transparenta algoritmer och – framför allt – mänsklig översyn.
-
Begränsad risk (Krav på transparens): På denna nivå handlar det om att vi som medborgare har rätt att veta när vi interagerar med en maskin. Om en verksamhet använder en AI-chatbot för kundtjänst, måste det tydligt framgå att kunden inte pratar med en verklig människa. Här finns också krav på märkning av “deepfakes” (AI-genererade bilder eller videor som ser helt verkliga ut) så att människor inte luras av falsk information.
-
Minimal risk (Fria att använda): Majoriteten av de AI-system vi interagerar med i vår vardag faller inom denna kategori. Här ryms AI-genererade videospel, de flesta generativa textverktyg för vardagsbruk och smarta filter. Dessa system kan användas fritt utan nya, betungande juridiska krav från förordningen.
Vad betyder då denna omfattande lagstiftning för dig i din arbetsvardag? Framför allt innebär det en trygghet. Det garanterar att de AI-system din organisation köper in och använder har genomgått en oberoende granskning om de rör känsliga områden, och att stora plattformar måste ta ansvar för hur deras algoritmer påverkar samhället. Det skyddar dina grundläggande rättigheter. Genom att förstå huvuddragen i EU:s AI-förordning får du en viktig pusselbit i ditt “AI Körkort” – du vet inte bara hur du använder tekniken, utan också att det finns ett skyddsnät som säkerställer att tekniken utvecklas för att tjäna människan, och inte tvärtom.