Sloan rekryterades internt och nästa hans efterträdare kommer inte att hämtas från de egna leden.
"Styrelsen har kommit fram till att det mest effektiva sättet att slutföra förvandlingen av Wells Fargo är att söka någon utifrån", skriver styrelseordförande Betsy Duke i ett uttalande.
Skandalen, där cirka två miljoner fuskkonton öppnats utan kundernas vetskap, anses ha uppstått på grund av att bankledningen satt upp orimliga försäljningsmål.
Under Sloan har banken slopad målen, betalat sina böter och skadestånd och försökt få kunder och den övriga omvärlden att glömma och gå vidare.
Det har gått så där.
I mars i fjol slog USA:s centralbank Federal Reserve hårda tillsynsåtgärder i huvudet på Wells Fargo. Och i mars i år sade centralbankschefen Jerome Powell att Wells Fargo ännu har lång väg att gå innan banken visat att den bättrat sig.
Tim Sloan har också hamnat i onåd hos lagstiftarna. De båda demokratiska senatorerna Elizabeth Warren och Sherrod Brown har nyligen krävt hans avgång.