Tv-bilder från flygplatsen visar hur Pence står utanför flygplanet i regnet och pratar med polisen.
När han kom in i värmen igen twittrade han:
"Jag är så tacksam för att alla i vårt flygplan är i säkerhet. Jag är tacksam över räddningspersonalen och den omsorg som så många visat och de många bönerna", skriver han.
Det var klockan 19.40, lokal tid, som Boeing 737-planet gick in för landning och åkte av landningsbanan. Den amerikanska flygsäkerhetsmyndigheten FAA ska undersöka vad som ligger bakom det inträffade.
Ställde in tillställning
Flygdramat satte stopp för flygtrafiken på La Guardia under någon timme.
Presidentkandidaten Donald Trump ringde till Pence efter händelsen för att försäkra sig att han mådde bra.
"Trump kontaktade guvernör Pence. Han är glad över att alla ombord är i säkerhet", säger Trumps talesperson Stephanie Grisham i ett skriftligt uttalande.
Ett 30-tal personer fanns ombord på planet, däribland Pences fru och dotter.
Planet var på väg från Fort Dodge, Iowa, där Pence hade deltagit i ett kampanjmöte. Planet var försenat med två timmar på grund av dåligt väder i New York.
Pence ställde in sin medverkan vid en inplanerad tillställning i Trump Tower på Manhattan senare under kvällen, men meddelar att han kommer att vara tillbaka i valkampanjen igen på fredagen.
