EUs nya AI-lag

I en värld där artificiell intelligens (AI) blir alltmer integrerad i våra liv och affärsprocesser, är det avgörande att företag följer de lagar och regler som styr användningen av dessa teknologier. Med den nya AI-lagen som väntas träda i kraft under 2025, är det viktigt att förbereda sig i god tid för att säkerställa full efterlevnad.

Introduktion

EU har lagt fram ett lagförslag om Artificiell Intelligens, AI, som snart ska antas. Parlamentet har redan godkänt lagen, och även om den inte är i kraft ännu, är det klokt att börja förbereda sig på den nya lagen, och utforska vad som krävs och behövs för att följa den. Den som bryter mot lagen (när den väl gäller) riskerar att få betala höga böter, upp till 6% av företagets globala omsättning, vilket är en markant höjning från de högsta böterna som kan ges för överträdelser av GDPR. EU:s syfte med att reglera AI är att skydda sina medborgare, och främja innovation på ett säkert sätt genom att skapa ett gemensamt ramverk för hantering och klassificering av AI-system. EU vill gå från en era utan krav där säkerhet bestämdes av enskilda utövares egna moraliska kompass, till en era där säkerhet, där människan sätts först, är lag-drivet.

LAGEN I KORTHET

Den föreslagna AI-lagen syftar till att etablera omfattande riktlinjer för utveckling, lansering och användning av AI-system inom EU, och som ofta är fallet finns det en stor möjlighet att stora delar av resten av världen kommer att införa liknande regler, antingen direkt som lagar, eller indirekt för att kunna göra affärer inom EU (dvs. på samma sätt som GDPR har drivit på införandet av liknande integritetslagar inom t.ex. Japan, Brasilien och Kalifornien).

Omfattning

Lagen kommer att gälla för leverantörer och användare av AI-system inom EU, samt leverantörer utanför EU som inför AI-system på EU-marknaden eller använder dem inom EU. Definitioner av AI Lagen definierar tre typer av tekniker eller metoder som ses som “AI” enligt denna lag.

– Maskininlärning av alla dess slag,

– Logik- och kunskapsbaserade metoder

– Statistiska metoder.

Dessa definitioner kommer troligtvis att uppdateras löpande varefter nya typer av AI-liknande system utvecklas.

Transparens

Krav ställs på transparens för att hantera risker kopplat till manipulation som AI-system kan medföra, framförallt kopplat till system som interagerar med människor, analyserar känslor, eller skapar och manipulerar bild och ljud. Slutanvändare skall informeras när interaktioner med denna typ av AI-system sker, samt det ska tydligt märkas när innehåll är AI-genererat, detta för att ge användare möjlighet att ta välinformerade beslut.

Riskbaserad klassificering av AI

Proportionalitet uppnås genom en reglering som är riskbaserad, utifrån potential att skada allmänna intressen eller äventyra människors grundläggande rättigheter. Vissa typer av tillämpningar anses ha en oacceptabel risk, och är därmed inte tillåtna. Detta innefattar beteendemanipulation, social poängsättning och biometrisk fjärridentifiering i realtid. Notera dock att det finns ett antal undantag för även för dessa tillämpningar. AI-system som potentiellt hotar säkerheten eller grundläggande rättigheter, betecknas som “hög risk”, och är den typ av system som lagen huvudsakligen riktar sig till, med strikta krav på bland annat kontinuerlig iterativ riskhantering, dataförvaltning där det kvalitet och på träningsdata, teknisk dokumentation, loggning för övervakning av drift och spårbarhet i felanvändning, transparens, mänsklig tillsyn, säkerhet och robusthet.

Kontakta oss

Vill du veta mer om hur det går till att införa nya processer och verktyg?

Härligt! Hör av dig till oss så berättar vi mer om processer och verktyg som vi tycker är viktiga. Samt hur vi säkerställer trygga projekt tillsammans med våra kunder.