Vid 15.30-tiden på onsdagen gick mannen in i en köttbutik där han tog en kniv och rusade ut på gatan.
Där attackerade han en 32-årig man samtidigt som han enligt vittnesuppgifter skrek "Allahu Akbar", rapporterar Bild.
Offret skadades lindrigt. Gärningsmannen sköts av polis på plats och skadades.
Enligt uppgifter till Aftonbladet är mannen i 40-årsåldern, tunisisk medborgare och har bott i Sverige i flera år. Han är folkbokförd i Stockholmsområdet och har permanent uppehållstillstånd.
I Sverige har han tidigare dömts för bland annat narkotikabrott och dopningsbrott.
Tysk polis utreder nu händelsen som ett misstänkt terrorbrott.
