EU AI Act: Ett betydande steg mot global AI-styrning

Under de senaste åren har artificiell intelligens (AI) blivit ett kraftfullt verktyg som påverkar hur innehåll skapas och används. Generativa verktyg som ChatGPT har öppnat nya möjligheter men också väckt frågor om upphovsrätt. AI-genererat innehåll berör flera juridiska och etiska överväganden.

När AI används allt oftare för att skapa innehåll behöver frågor om rättigheter, erkännande av upphovspersoner och ersättning behandlas. Befintliga upphovsrättsregler måste tillämpas på nya tekniska situationer, och det är inte alltid självklart hur regler som utvecklats för mänskligt skapande ska tillämpas på AI-genererat material.

Även etiska frågor om partiskhet, integritet och ansvar är viktiga. AI-system kan förstärka befintliga fördomar och missgynna vissa grupper eller individer. Användning av personuppgifter kan också innebära integritetsrisker.

Beslutsfattare, branschföreträdare och andra berörda arbetar därför med riktlinjer som balanserar skapares och användares intressen med teknikutvecklingen. Vid artikelns publicering i april 2023 arbetade EU med AI Act, ett förslag till regler för AI. Artikeln beskriver lagstiftningsdiskussionen vid denna tidpunkt.

Vad var förslaget till EU:s AI-förordning?

EU-kommissionen lade fram förslaget till AI-förordning i april 2021. Det syftade till ett gemensamt regelverk för utveckling, tillhandahållande och användning av AI. Förslaget byggde på risknivåer: vissa användningar skulle förbjudas, högrisksystem möta omfattande krav och andra system omfattas av mer begränsade skyldigheter. Målet var bland annat att motverka diskriminering och skydda grundläggande rättigheter.

Förslaget lade skyldigheter på leverantörer och användare beroende på deras roll och systemens risker. Under våren 2023 behandlades texten fortfarande inom EU:s ordinarie lagstiftningsförfarande. I april 2023 rapporterades en preliminär politisk överenskommelse mellan förhandlare i Europaparlamentet. En omröstning i plenum planerades till juni. Det var ännu inte ett slutligt antagande av EU-lagstiftningen. Om förslaget antogs skulle det bli ett av världens första breda, riskbaserade regelverk särskilt för AI.

Förslagets betydelse låg i ambitionen att behandla AI-risker inom en gemensam ram för många sektorer. En teknikneutral utformning skulle underlätta tillämpning på olika system, medan de konkreta kraven skulle bero på användning och risknivå.

Hur kunde förslaget påverka generativ AI?

Förslaget och de ändringar som diskuterades innehöll krav på transparens, datastyrning och mänsklig tillsyn i relevanta situationer. För generativa modeller diskuterades bland annat att leverantörer skulle offentliggöra tillräckligt detaljerade sammanfattningar av upphovsrättsskyddade träningsdata. Större insyn kan hjälpa rättighetshavare, men ersätter inte en licens eller avgör i sig om en användning är tillåten. Krav på förklaringar och tillsyn behöver också förstås utifrån den aktuella systemtypen och risken.

I USA uppmärksammade Consumer Financial Protection Bureau (CFPB) samtidigt risker med automatiserade system. I april 2023 betonade myndigheten och andra federala organ att befintliga regler mot diskriminering och annan olaglig verksamhet gäller även när AI används. Generativ AI kunde bland annat skapa risker för bedrägerier och integritetsintrång. Det pågick också diskussioner om huruvida ansvarsskyddet för internetplattformar kunde omfatta AI-genererat innehåll.

Generativ AI hade ingen lika framträdande roll i det ursprungliga förslaget från 2021, som bland annat innehöll begränsade transparenskrav för chattbotar och deepfake-innehåll. Under våren 2023 diskuterades mer särskilda regler för grundmodeller, som kan ligga till grund för generativa system som ChatGPT. Europeiska standarder skulle kunna stödja tillämpningen, men kraven var fortfarande föremål för lagstiftningsförhandlingar.

Risker och utmaningar som är förknippade med utveckling och implementering av AI

Utveckling och användning av AI medför risker som behöver hanteras. System kan kränka rättigheter och bidra till diskriminering, exempelvis i beslut som påverkar migranter, flyktingar och asylsökande.

System som styr fordon eller robotar kan orsaka fysisk skada. AI-genererad kod kan också innehålla fel eller säkerhetsbrister. Språkmodeller kan hjälpa till med tekniska frågor och programmering, men resultaten behöver granskas och testas.

Asilomarprinciperna betonar bland annat säkerhet, integritet, mänsklig kontroll och ansvar för utvecklare. Inkluderande och transparent utformning är viktig för att begränsa oavsiktliga skador.

Eftersom EU och USA spelar viktiga roller i global AI-styrning kan samordnade sätt att hantera risker underlätta handel och gemensamma skydd. Utvecklare behöver samtidigt införa och utvärdera skyddsåtgärder. Företag som OpenAI har beskrivit ambitioner om ansvarsfull utveckling; sådana ambitioner behöver följas av praktiska åtgärder.

Hur såg USA på AI och upphovsrätt?

Vid publiceringen våren 2023 väckte AI flera skilda upphovsrättsfrågor. En gällde om det skapade materialet kunde skyddas. USA:s upphovsrättsmyndighet betonade i sin vägledning i mars 2023 att skydd förutsätter mänskligt skapande. Tillräckligt kreativa mänskliga urval, arrangemang eller bearbetningar kan skyddas, medan rent maskingenererat material inte får skydd bara för att en människa har gett instruktioner.

En annan fråga gällde träning med skyddade verk. Användning utan en särskild licens väckte frågor om intrång och om tillämpliga undantag; svaret beror på omständigheterna och den rättsliga prövningen.

Getty Images (GETY ) lämnade exempelvis in en stämning mot Stability AI i februari 2023 och påstod intrång i upphovsrätt och varumärken samt varumärkesutspädning. Det rörde sig om anklagelser i en process.

Den 21 februari 2023 höll USA:s högsta domstol muntlig förhandling i Gonzalez mot Google. Målet gällde ansvarsskyddet för plattformar enligt Section 230 och YouTubes rekommendationer, snarare än upphovsrättens fair use-undantag. Under förhandlingen togs AI-genererat innehåll upp som en möjlig gränsfråga, men det innebar inte att domstolen hade avgjort dess rättsliga ställning.

EU:s förslag kunde samtidigt påverka den internationella diskussionen om AI, transparens och immateriella rättigheter, även om det inte i sig bestämde amerikansk upphovsrätt.

Slutsatser

Vid publiceringen i april 2023 diskuterade EU:s lagstiftare ökad insyn i generativa modellers upphovsrättsskyddade träningsdata som en del av förslaget till AI-förordning. Det var ett betydande steg i den pågående politiska processen, men reglerna var ännu inte slutligt antagna.

Frågorna om AI-genererat innehåll och upphovsrätt behöver bedömas både juridiskt och etiskt. Debatter och processer om träning och skapande visade behovet av att klargöra hur befintliga regler skulle tillämpas.

Beslutsfattare och branschföreträdare behöver samarbeta om riktlinjer som tar hänsyn till skapare, användare och teknisk utveckling. Tydlighet behövs om rättigheter, erkännande av upphovspersoner och ersättning.

Partiskhet, integritet och ansvar måste också beaktas när AI-genererat innehåll produceras och används. Öppenhet om användningen kan stödja ansvarsutkrävande.

Ett fortsatt samarbete mellan berörda aktörer är därför viktigt för att utveckla regler som balanserar intressena och bidrar till att tekniken används rättvist och ansvarsfullt.