McCarthy röstades bort med siffrorna 216 för och 210 emot. Åtta republikaner röstade för att avsätta honom. Sju ledamöter var inte närvarande.
Det är första gången i USA:s historia som representanthuset avsätter sin talman och posten står vakant. Republikanen Patrick McHenry från North Carolina har utsetts till temporär talman. Enligt The New York Times kommer hans huvudsakliga uppgift vara att övervaka ett val av ny talman.
Bakom kritiken mot McCarthy ligger en högerfalang inom Republikanerna, med Floridarepublikanen Matt Gaetz i spetsen. Dessa har bland annat retat sig på att McCarthy bidragit till att det så kallade skuldtaket i USA höjts. Falangen vill se en stram statsbudget med rejäla nedskärningar och indraget Ukrainastöd.
Demokraternas minoritetsledare i representanthuset, Hakeem Jeffries, skrev i ett brev till sina partikollegor innan omröstningen att partiet inte skulle rösta för att rädda McCarthy.
"Nu är det upp till de republikanska kongressledamöterna att få slut på det republikanska inbördeskriget i representanthuset", skrev Jeffries i brevet enligt AP.
Fakta: Kevin McCarthy
Född 1965 i Bakersfield i Kalifornien, där han fortfarande bor med sin hustru Judy och parets två barn. Hans far var brandman och McCarthy är den första republikanen i sin familj.
Startade matetablissemanget Kevin O's Deli när han var 21 år. Sålde det några år senare för att ha råd att plugga vidare till ekonom. Under studierna började han jobba för den republikanske kongressledamoten Bill Thomas.
Valdes in i representanthuset 2006 där han representerar Kaliforniens 23:e distrikt. Har bland annat varit partipiska och gruppledare.
Står för traditionell republikansk politik som skattesänkningar och mindre statsapparat. Säger sig vara abortmotståndare, men var tidigare mer liberal. Har gjort uttalanden som kan tolkas som klimatförnekande.
Sover ofta på soffan på sitt kontor i Washington DC. Har sagt att han inte vill bli ”för bekväm” i huvudstaden utan åker hem regelbundet.
Har två australian shepherd-hundar, Teddy (döpt efter Teddy Roosevelt) och Cash (efter Johnny Cash).
Källor: McCarthys egen sajt, Politico, The Hill med flera