"Utredningen visar att en kriminell handling inte går att bevisa", säger åklagarna i ett uttalande.
Dikten – där den auktoritäre turkiske ledaren bland annat anklagas för att förtrycka minoriteter, titta på barnpornografi och för att ha samlag med getter – gjorde Erdogan rasande och Turkiet krävde att Tyskland sökte åtal mot Jan Böhmermann för förolämpning.
Den tyska regeringen gav klartecken för åklagare att inleda en utredning, men den har alltså nu lagts ner.
Böhmermann har kallat dikten en medveten provokation, efter att Tysklands ambassadör kallats upp av det turkiska utrikesdepartementet för att ta emot en protest mot en annan, betydligt mildare formulerad, tv-sänd satir som var riktad mot Erdogan.
I somras avslog en tysk domstol en begäran från Erdogan om att hindra Mathias Doepfner, vd för Axel Springer-förlaget – en av Europas största tidningsägare – från att uttrycka sitt stöd för Böhmermann.
I ett öppet brev skrev Doepfner att han helhjärtat stödde komikern, vilket enligt domstolen föll inom ramen för yttrandefriheten.