A origem de Jerumenha, um dos municípios mais antigos do Piauí, remonta ao século XVII. Em 1676, o governo da Capitania de Pernambuco concedeu uma vasta extensão de terra ao português Francisco Dias D'Ávila, com o objetivo de instalar uma fazenda de gado. Para consolidar o empreendimento, o sesmeiro trouxe da Bahia um grupo numeroso de índios já catequizados, encarregados de trabalhar e proteger o local das investidas de povos indígenas originários da região.
O povoado formado ao redor da fazenda cresceu em importância, sendo conhecido inicialmente como Arraial de Garcia D’Ávila. Em reconhecimento à sua relevância econômica e política, o local foi elevado à categoria de vila por meio de Carta Régia de junho de 1761. A nova vila recebeu o nome de Jerumenha, em homenagem à cidade portuguesa de mesmo nome, terra natal do fundador.
Com o passar do tempo, Jerumenha consolidou-se como um importante núcleo urbano do sul do estado. Em 1890, já durante a República Velha, foi oficialmente elevada à condição de cidade, por decreto estadual, consolidando sua autonomia administrativa.