Det är första gången i Tysklands historia som ett sådant beslut fattas, säger en talesman för inrikesdepartementet. Det unika är alltså att personerna utvisas trots att de är födda i landet.
De två männen, en 22-åring med nigerianskt ursprung och en 27-åring med algerisk härkomst, greps i en polisrazzia i staden Göttingen den 9 februari, skriver nyhetsbyrån. De ska ha planerat ett terrordåd.
Männen, som haft samröre med radikala muslimska salafister, klassificeras som "farliga" av polisen och kommer sannolikt utvisas inom kort. De får inte återvända till Tyskland.
Åtgärden sägs vara en del av Tysklands hårdare tag mot terrorism.
Tyskland har varit på högsta beredskap sedan den 19 december förra året då terroristen Anis Amri dödade 12 och skadade 56 människor i Berlin genom att köra på dem med en lastbil.
