Talibanerna klädde ut sig till regeringssoldater och lyckades köra in på området i militärfordon efter att ha lurat vakterna att de akuttransporterade sårade soldater.
Därefter attackerades ett stort antal soldater som kom ut från fredagsbönen i en moské. Minst 140 dog och flera skadades, skriver TT.
Enligt talibanernas talesperson Zabihullah Mujahid var det beväpnade självmordsbombare som utförde attacken.
– Vi har tillfogat den afghanska armén stora förluster, säger han i ett uttalande.
Anfallet varade i flera timmar. Till slut dödades eller tillfångatogs samtliga angripare.
På militärbasen i Mazar-i-Sharif finns även utländska Nato-trupper som utbildar de afghanska soldaterna, men ingen av dem ska ha berörts av attacken.