Fallet väckte stor vrede i USA, och onsdagens beslut är det första i ett högprofilärende sedan Jeff Sessions tillträdde som justitieminister.
Enligt ett uttalande från departement finns det inte "tillräckliga brottsbevis för att vidta rättsliga åtgärder mot polisenheten i Baton Rouge" eller mot de misstänkta polismännen.
Det var i juli förra året som den 37-årige Alton Sterling sköts till döds utanför en närbutik i Baton Rouge, där han stod och sålde cd-skivor.
Händelsen videofilmades, och filmen som snabbt började cirkulera på nätet visade hur två poliser tryckte ner Sterling på marken innan en av dem sköt honom fyra gånger, från nära håll.
Poliserna kom till platsen efter ett anonymt tips om en hotfull, beväpnad person. I ett uttalande förklarade man dödsskjutningen med att bråk uppstod under ingripandet. Enligt poliserna ska Sterling ha varit på väg att dra ett laddat skjutvapen ur sin ficka.
Både USA:s president Donald Trump och justitieminister Sessions har tidigare sagt att de anser att den förra administrationen ledd av Barack Obama var för aggressiv mot poliser i medborgarrättsfall.
TT-AFP-Reuters