Kunstig samtykke

ChatGPT hadde blitt lansert bare noen måneder tidligere, og utviklingen gikk raskt. Mange SAG-medlemmer var bekymret for hva KI kunne bety for skuespilleryrket.

Da streiken sluttet etter 118 dager i starten av november, stod SAG tilbake med en avtale med produsentene som i noen grad regulerte bruken av KI. At SAG også fikk hevet minstesatsene betydelig snakket man ikke så veldig mye om. Det var avtalen om KI som fikk mest oppmerksomhet i pressen, også her i Norge. På dette tidspunktet var teknologien fortsatt ny.

Høsten 2023 hadde KI så vidt begynt å bli et tema i Norge. Diskusjonen handlet først og fremst om områder som medisin og utsiktene til selvkjørende biler. I kunst- og kulturfeltet var KI fortsatt lite diskutert.

KI og kulturfeltet

Sånn er det ikke lenger. KI er ikke på vei inn i kunst- og kulturfeltet. Den er allerede her.

KI brukes i kunst- og kulturfeltet hver eneste dag, på mange ulike måter. I film, TV og lydbøker brukes KI blant annet i etterarbeidet. Verktøy for fargekorrigering, lydbehandling og klipping er i økende grad basert på KI-teknologi. På mange områder erstatter disse verktøyene tidligere digitale verktøy, uten at det nødvendigvis endrer selve det kunstneriske arbeidet.

Men KI kan også brukes til noe helt annet: å skape eller gjenskape mennesker digitalt.

En skuespiller kan gjenskapes helt eller delvis gjennom en digital kopi. Et eksisterende opptak kan manipuleres slik at skuespilleren sier eller gjør noe som aldri ble sagt eller gjort. Det er også mulig å skape syntetiske «skuespillere» som ikke ligner på en konkret, levende person.

«At teknologi kan brukes til å fremstille noe digitalt som kan erstatte levende mennesker er ikke noe nytt. Det er over 60 år siden den første digitale stemme-synthesizer så dagens lys. Det nye er hvor raskt, billig og overbevisende dette nå kan gjøres.»

Det er en utvikling som reiser spørsmål langt utover kunst- og kulturfeltet. Når lyd og bilder kan manipuleres så godt at det er vanskelig å vite hva som er ekte, utfordres også tilliten til det vi ser og hører. Det handler blant annet om tillit til medier, myndigheter og informasjon.

Dette er en viktig del av bakgrunnen for EUs KI-forordning, som ble vedtatt i 2024. Forordningen forbyr ikke bruk av KI, men stiller blant annet krav til åpenhet om når KI er brukt. Den berører også hensynet til tredjeparters rettigheter. Med tredjepart menes f.eks. skuespillere og med rettigheter menes f.eks. våre rettigheter etter åndsverksloven og personvernloven.

For skuespillere er dette særlig viktig. Stemmen, ansiktet og den kunstneriske prestasjonen er en del av det skuespilleren lever av. Når teknologien gjør det mulig å kopiere, endre eller skape slike uttrykk digitalt, må vi derfor også spørre hvem som har rett til å bruke dem, hvordan de kan brukes og hva skuespilleren skal få betalt.

Det er her KI går fra å være et teknologisk spørsmål til å bli et spørsmål om skuespilleres rettigheter og inntektsgrunnlag.

KI og skuespillernes rettigheter

Det å være skuespiller handler i stor grad om å eie retten til sin egen prestasjon. En prestasjon som skapes ved bruk av ens stemme, ansikt og kropp. Når vi spiller inn en film eller leser inn en lydbok, samtykker vi til at prestasjonen kan tas opp, at opptaket brukes i filmen eller lydboken, og at filmen eller lydboken distribueres på bestemte vilkår. Til gjengjeld får vi betalt.

KI gjør dette mer komplisert.

Et grunnleggende formål med åndsverksloven: å sikre kunstnere rettigheter til det de skaper, slik at de også kan leve av arbeidet sitt. Uten disse rettighetene har vi lite å selge videre til neste ledd i det kulturelle økosystemet – og til syvende og sist til publikum.

«KI gjør det enda viktigere å være tydelig på hva vi faktisk samtykker til.»

Samtykket bør være konkret. Det bør være klart hva opptaket kan brukes til, hvilken produksjon det gjelder, hvor lenge det kan brukes og hvor det kan distribueres. Dette er egentlig ikke noe nytt. Det er slik mange av våre tariff- og rettighetsavtaler allerede er bygget opp.

Åndsverksloven bygger også på et viktig prinsipp: Rettigheter som ikke er overdratt, beholder man. Derfor bør utgangspunktet være å avtale hva man faktisk gir fra seg, fremfor å forsøke å forbeholde seg alt man ikke ønsker å gi fra seg.

I de fleste tilfeller har skuespilleren fortsatt rettighetene sine når det gjelder KI i forhold til åndsverksloven og/eller reglene for personvern. Skal en produsent, et forlag eller andre kunne bruke en tidligere prestasjon i en KI-sammenheng, må det derfor inngås en avtale om dette.

Det nye er at vi nå kan bli bedt om å samtykke til at hele eller deler av en prestasjon brukes til å skape noe nytt ved hjelp av KI. Da må også betalingen ta høyde for hva det «kunstige arbeidet» skal brukes til.

Det oppstår et nytt dilemma.

Vi får ikke lenger bare betalt for en kunstnerisk prestasjon. Vi kan også få betalt for å samtykke til at andre kan bruke prestasjonen vår til å skape noe vi ikke selv har laget.

Det er en uvant tanke. Men det er også en virkelighet vi må forholde oss til.

KI og Skuespillerforbundet

Skuespillerforbundet kan ikke stoppe teknologien, så spørsmålet er hvordan vi skal forholde oss til den.

Vi ønsker i all hovedsak at det som fremstår som skuespill faktisk skal være levert av skuespillere. Teknologien kan være et verktøy i det kunstneriske arbeidet, men bør ikke brukes som erstatning for kunstnerisk arbeid.

Men det kan være situasjoner hvor KI likevel har en naturlig plass i en produksjon. Det kan være når teknologien erstatter en tidligere type verktøy, eller når den brukes til å ferdigstille scener som er farlige eller innebærer nakenhet.

Uansett må bruken avtales. Hva kan det (kunstige arbeidet) brukes til, hvordan og hvor lenge? Hvor skal det distribueres? Og hva skal skuespilleren ha betalt?

I de fleste tilfeller vil et slikt samtykke også utløse et krav på betaling. Man har ifølge loven krav på et rimelig vederlag for å overdra sine rettigheter. Det gjelder naturligvis også retten til å bruke hele eller deler av en prestasjon ved hjelp av KI.

Er det snakk om en konkret bruk av KI til å gjenskape en digital kopi i en eller flere scener, kan et naturlig utgangspunkt være hva skuespilleren skulle hatt betalt hvis scenene faktisk var spilt inn. Kanskje en ekstra opptaksdag eller flere.

I andre tilfeller kan det være vanskeligere å sette en pris. Det finnes dessverre ikke noen «one size fits all»-løsning, så det må foreløpig avklares i den individuelle forhandling. Hva som er rimelig, må vurderes ut fra den konkrete bruken, omfanget og den økonomiske verdien bruken har for produsenten eller andre som får rettighetene.

Betaling er bare en del av dette. Vi må også vite hva som skjer med materialet når det legges inn i et nytt KI-verktøy. For når man bruker KI, trener man KI. Det må derfor være kontroll på hvilke data som legges inn, hvem som får tilgang og på videre bruk.

Det samme gjelder distribusjon. Når en produksjon legges ut på YouTube, Facebook, Instagram, Snapchat, TikTok eller andre plattformer, aksepterer man plattformenes avtalevilkår. På visse plattformer kan man reservere seg mot at innholdet kan brukes av KI-modeller. På andre er det ikke mulig. Det er derfor alltid viktig å kjenne til avtalevilkårene til plattformene før man laster opp innhold.

Når skuespilleren ikke eksisterer

Når KI brukes til å gjenskape en levende skuespillere helt eller delvis ved digitale kopier eller digital manipulasjon, har vi juridiske verktøyer å støtte oss på. Vi kan stille krav til samtykke, begrense bruken og kreve betaling. Men vi må også utvikle bedre lisensieringsordninger. Og dersom noen bruker KI uten å innhente nødvendig samtykke, oppstår spørsmålet om hvordan vi best kan håndheve rettighetene våre.

Situasjonen er vanskeligere når KI skaper en syntetisk skuespiller som ikke ligner på en konkret person. Da er det ikke lenger snakk om en fysisk, levende person som gjenskapes helt eller delvis. Det skapes det ved bruk av KI noe som ikke nødvendigvis ligner på noen bestemt person. Spørsmålet blir derfor ikke bare hva som kommer ut av KI-verktøyet, men også hva som er brukt for å trene det.

Her har vi færre juridiske verktøy å støtte oss på.

Vi får noe hjelp av KI-forordningen, åndsverksloven og av regler for personvern. Men dette forutsetter at vi vet hvilket KI-verktøy som brukes og hva de brukes til. I en vanlig produksjon kan det være mange ulike KI-verktøy involvert. Det er derfor vanskelig å se for seg at skuespillere eller kunstnerorganisasjoner skal kunne kontrollere alle disse selv. Det bør derfor vurderes om det trengs tydeligere krav til hvilke KI-verktøy som kan brukes i kunstneriske produksjoner, og hvordan de skal godkjennes og kontrolleres.

Det er nettopp her vi ser en av de største utfordringene for skuespilleryrket. Når en syntetisk skuespiller kan produseres uten at en skuespiller faktisk utfører arbeidet, utfordres ikke bare rettighetene våre. Også selve inntektsgrunnlaget vårt kan bli utfordret.

Politisk kan man selvsagt gjøre noe. Et forbud mot KI i kulturproduksjoner er neppe veien å gå, blant annet fordi det kan komme i konflikt med ytringsfriheten. Men myndighetene bør heller ikke bidra til å drive utviklingen fremover. Dessverre opplever vi at det til en viss grad skjer i dag.

Nasjonalbiblioteket har etter bestilling fra regjeringen utviklet en «tale-til-tekst» språkmodell. Formålet eller bakgrunnen er naturligvis å legge til rette for de med hørevansker. Så det er sånn sett et bra formål. Problemene oppstår når det ikke lages noen begrensninger for hva slike modeller kan brukes til i kommersielle sammenhenger. Da kan en modell utviklet med offentlige midler bli en konkurrent til dem som i dag lever av å lage undertekster.

Denne modell allerede utviklet. Nå er det også snakk om at Nasjonalbiblioteket utvikler en «tekst-til-tale» modell. Den kan gjøre tekster mer tilgjengelige for mennesker med lesevansker. Samtidig reiser den noen alvorlige spørsmål. Mange av våre medlemmer har i dag innlesing av lydbøker for Tibi som en del av inntektsgrunnlaget sitt. Det er ikke vanskelig å se for seg at en slik modell på sikt kan erstatte mange av dem som i dag lever helt eller delvis av dette arbeidet.

«Spørsmålet er derfor ikke om teknologien kan være nyttig. Det kan den. Spørsmålet er hvilke rammer som skal gjelde når offentlig utviklet teknologi også kan brukes kommersielt.»

Nasjonalbiblioteket har allerede inngått en avtale med Kopinor om trening av språkmodeller på tekst fra norske aviser. Nasjonalbiblioteket skal også være i dialog med forfatterne om en tilsvarende avtale. Det forventes naturligvis at det samme skjer når det gjelder bruk av stemmer. En slik avtale er allerede inngått i Estland, der landets nasjonalbibliotek tok initiativ til avtalen.

Når det gjelder syntetiske stemmer og digitale kopier av skuespillere, handler det til syvende og sist også om hva publikum vil akseptere. Mange skuespillere opplever at det «mangler noe» når stemmen eller prestasjonen er kunstig. Og det gjør det jo. Men i siste instans er det publikum som avgjør hva de er villige til å akseptere. I dag er inntrykket at publikum fortsatt ønsker kultur som er laget av og med mennesker.

Disse preferansene kan endre seg. Derfor må kunstnerorganisasjonene fortsette å løfte fram verdien av menneskelig kunstnerisk arbeid. Teknologien kan brukes som et verktøy i det kunstneriske arbeidet, ikke som en erstatning for kunstnerisk arbeid.

Hva må på plass?

Denne sommeren inngikk SAG en ny avtale med produsentene i USA. Når bransjen blir stadig mer global, får bestemmelser om KI i slike avtaler også betydning for oss i Norge. Mange av aktørene SAG forhandler med, er også aktører vi møter – direkte eller indirekte.

Spørsmålet er derfor ikke bare hva SAG har fått til, men hva vi kan oppnå her hjemme. Vi må i hvert fall sørge for at norske skuespillere ikke får dårligere vilkår.

Derfor må vi selv ta initiativ og diskutere, med både våre tradisjonelle og nye avtalepartnere, hvilke rammer som skal gjelde for bruk av KI i skuespillerarbeid.

KI endrer måten kunstneriske prestasjoner kan brukes på. Skuespillere må derfor få betalt når andre bruker prestasjonene deres til å skape noe nytt.

Teknologien kan påvirke hvordan det skapes. Den bør ikke endre hvem som får betalt.