Förslaget har brett stöd i folketinget och regeringen planerar att lägga fram lagändringen för remiss före sommaruppehållet, med målet att den ska behandlas i höst.
– Alla har rätt till sin egen kropp, sin egen röst och sina egna ansiktsdrag, säger kulturminister Jakob Engel-Schmidt till The Guardian.
Något som särskilt bekymrar är så kallade deepfakes. En deepfake är en mycket realistisk digital imitation av en person, där både utseende, röst och kropp efterliknas med hjälp av AI. Tekniken kan användas för att skapa bilder, videor eller ljudklipp som ger intryck av att en verklig person sagt eller gjort något – trots att det aldrig hänt i verkligheten.
Enligt förslaget ska personer kunna kräva att plattformar tar bort AI-material där deras identitet använts utan samtycke.
Det omfattar även digitala imitationer av konstnärliga framträdanden. Den som drabbas ska kunna få ersättning, skriver The Guardian.
Jakob Engel-Schmidt uppger att lagförslaget är ett tydligt ställningstagande för att människor har rätt till sina egna kroppar, röster och ansikten. Han varnar för att tekniken gör det möjligt att "köra människor genom en digital kopiator och missbruka dem för alla möjliga syften".
– Det är jag inte beredd att acceptera, fortsätter ministern.
Förslaget beskrivs som det första i sitt slag i Europa. Satir och parodi ska fortfarande vara tillåtna, förtydligar den danska regeringen.