Den misstänkte, Shane Tamura, var beväpnad med ett AR15-gevär och hade enligt polis tidigare haft psykiska problem.
Skjutningen ägde rum vid 18:30 lokal tid inne i 44-våningshuset på 345 Park Avenue, där bland annat finansjätten Blackstone och NFL:s högkvarter har kontor.
Vittnen beskriver en skräckfylld scen, rapporterar New York Post.
– Det lät som en salva av skott... som ett automatvapen. Som ett vapen med stor magasinkapacitet, berättade ett ögonvittne för New York Post kort efter händelsen.
Enligt New York-polisens kommissionär Jessica Tisch sköts polisen Didarul Islam till döds omedelbart när Tamura klev in i byggnaden. Gärningsmannen sköt därefter ihjäl en kvinna som försökte gömma sig bakom en pelare.
– Han fortsatte att peppra lobbyn med kulor, sade Tisch vid en presskonferens på kvällen lokal tid.
En säkerhetsvakt som försökte ta skydd bakom en reception träffades också, liksom ytterligare en man i lobbyn som överlevde.
I ett till synes slumpmässigt ögonblick skonade Tamura livet på en kvinna som precis steg ut ur en hiss, enligt polisen.
Därefter tog han hissen upp till 33:e våningen, där fastighetsbolaget Rudin Management har kontor. Under färden upp sköt han ytterligare en person till döds, innan han avslutade sitt eget liv med ett skott i bröstet.
Polisen uppgav att Tamura använde ett gevär av typen AR-15 från Palmetto State Armory. Bilder från platsen visar vapnet täckt av blod, samt gärningsmannens kropp liggande på golvet.
Tamura hade enligt polisen en dokumenterad historia av psykisk ohälsa. Enligt medierapporteringen fanns inga andra gärningsmän.
Polisen har ännu inte uppgett något motiv, men utredningen pågår.
