Sarkozy, som erkände sig besegrad under söndagskvällen, lyckades inte ta sig vidare till partiet Republikanernas andra omgång i primärvalet.
Vinnare blev Francois Fillon, som beskrivs som en moderat kandidat, och på andra plats kom Alain Juppe.
Den som blir Republikanernas kandidat kommer av allt att döma att ställas mot Nationella frontens Marine Le Pen i presidentvalet nästa år.
Enligt en opinionsundersökning som genomfördes strax före primärvalet skulle Le Pen i en första valomgång få åtta procentenheter fler röster än Nicolas Sarkozy, skriver Independent.
I en andra valomgång är det dock troligt att hela etablissemanget går samman för att stödja den kandidat som kommer att utmana Le Pen.
