Beslutet har väckt starka reaktioner från familjen till David Bogdanovskyi, 19, som dödades i december förra året i strider i södra Gaza.
Familjen, som emigrerade från Ukraina till Israel 2014, uppges vara förkrossad. Modern försvarar i ett Facebook-inlägg beslutet att sätta ett kors på sonens gravstenen.
"David älskade Israel från djupet av sitt hjärta. Korset ingraverat på hans gravsten var en viktig del av hans personliga identitet och den tro som han växte upp i", skriver hon.
Enligt försvarsdepartementets regelverk får religiösa symboler som kors inte finnas på gravar i militära kyrkogårdar. Departementet har mottagit klagomål från andra familjer som menar att korset "kränker" dem och stör deras förmåga att be vid gravarna.
Den militära chefsrabbinens bedömning är att korset "skadar kyrkogårdens helighet", skriver Times of Israel.
Försvarsdepartementet uppger att man har haft pågående samtal med familjen för att försöka hitta en lösning, men understryker att gravstenen bryter mot de nuvarande reglerna.