AI-reglering i Sverige och EU — vem ska bestämma om algoritmernas makt?

EU:s AI Act är världens första övergripande lagstiftning specifikt riktad mot artificiell intelligens. Sverige ska implementera lagen och nationella myndigheter — Datainspektionen, IMY och nya koordineringsorgan — håller på att bygga upp sin kapacitet att granska AI-system.

Lagen delar in AI-tillämpningar i riskkategorier. "Oacceptabel risk" — AI för social scoring av medborgare, ansiktsigenkänning i realtid i offentliga rum — är förbjuden. "Hög risk" — AI i rättssystemet, sjukvård, kritisk infrastruktur och biometrisk identifiering — kräver omfattande dokumentation, mänsklig granskning och registrering i ett EU-register. "Lägre risk" — de flesta konsumentappar — omfattas av transparenskrav men lite mer.

Debatten i Sverige handlar om tre saker.

Först: räcker lagen? Många AI-forskare och civilsamhällsorganisationer menar att reglerna är för sektorsspecifika och missar systemrisker — att mängden av relativt harmlösa AI-system skapar en samhällseffekt som ingen enskild kategori täcker. Algoritmernas påverkan på vad vi läser, vilka jobb vi söker och vem vi dejtar hamnar utanför lagens räckvidd.

Andra: vem ska granska? IMY (Integritetsskyddsmyndigheten) har fått ett utökat uppdrag men resurser som inte matchar uppgiften. Företagen som bygger AI har teams av jurister och ingenjörer; granskarna är underbemannade. Det finns en reell risk att lagen är välformulerad men underimplementerad.

Tredje: ska Sverige ha en mer aktiv industripolitik? Vissa menar att strikta regler ger europeiska AI-bolag konkurrensunderläge mot amerikanska och kinesiska aktörer som arbetar under lösare regimer. Andra menar att den reglerade marknaden kan bli en konkurrensfördel — trovärdiga AI-system som medborgare litar på.

Sveriges position i EU-rådet under AI Act-förhandlingarna var relativt restriktiv — vi stödde tydligare krav på transparens och mänsklig tillsyn. Det reflekterar en bredare folklig misstro mot okontrollerade algoritmers makt, som återkommer i eurobarometern gång på gång.