Folkomröstningen kommer att hållas den 16 mars, proklamerade regionens vice premiärminister Rustam Temirgaliev enligt ITAR-TASS.
Samtidigt röstade Krims parlament enhälligt för att regionen ska uppgå i Ryssland.
Även invånarna i Sevastopol kommer att få delta i folkomröstningen, trots att staden har en speciell status och inte officiellt räknas till Krim.
Beslutet välkomnades av en folkmassa som stod utanför parlamentet och skanderade: "Ryssland!"
Kontakter har också tagits med den ryska ledningen, som har ombetts att förbereda för att Krim inlemmas i Ryssland.
Majoriteten på Krim är rysktalande. Under de senaste veckorna har det skett våldsamma sammandrabbningar mellan ryssvänliga demonstranter och muslimska krimtatarer, som vill att regionen ska fortsätta att vara en del av Ukraina.
PHOTO: Crimeans chant 'Glory to Russia' after parliament vote to join Russian Federation http://t.co/qSWbmMTYmi pic.twitter.com/plk3eBMxNF— RT (@RT_com) March 6, 2014