Enligt tyska medier skedde händelsen i den populära shoppinggatan Planken, i närheten av vattentornet.
Polisen har uppmanat allmänheten att undvika innerstaden och har utfärdat varningar via mobiltelefoner. Samtidigt har den lokala universitetskliniken utlyst katastroflarm på grund av det stora antalet skadade.
Enligt uppgifter från Bild har polisen gripit föraren och beslagtagit fordonet, som tros ha använts i dådet.
Poliser med automatvapen patrullerar nu gatorna och utför omfattande kontroller av fordon och personer vid stadens utfarter. En polishelikopter cirkulerar över området.
Den tyska inrikesministern Nancy Faeser (SPD) har meddelat att hon ställer in sitt planerade besök i Köln för att resa till Mannheim.
Polisen har i nuläget inte lämnat några detaljer om dådets misstänkta motiv, men flera muslimska terrordåd med liknande tillvägagångssätt har skakat Tyskland på sistone.
