Schulz avstår från en plats i regeringen med hopp om att det ska sätta stopp för interna persondebatter inom Socialdemokraterna (SPD).
"Mina egna personliga ambitioner måste komma i andra hand efter partiets intressen", meddelade han i ett uttalande på fredagen.
SPD enades om att ingå i en storkoalition med Kristdemokraterna CDU/CSU i onsdags, mer än fyra månader efter valet. Men det återstår för de socialdemokratiska partimedlemmarna att rösta ja till koalitionen.
I samband med beskedet om storkoalitionen bekräftade Schulz att han var aktuell för posten som utrikesminister och att han då skulle avgå som partiledare om medlemmarna röstar ja till koalitionsavtalet. Det resulterade i stark kritik eftersom han inför valet lovat att han inte skulle stöda en Merkel-ledd regering igen.
Bland partiets gräsrötter sågs helvändningen som ett uppenbart drag från Schulz sida för att säkra sig själv ett bra jobb – kritik som på fredagen blev omöjlig att ignorera.
Beskedet retade även upp den nuvarande utrikesministern Sigmar Gabriel (SPD) som menade att det visar på brist på respekt för avtal som ingåtts.