Pouco se sabe sobre a fundação de Rio Vermelho. Segundo tradição, o arraial iniciou-se no lugar denominado Magalhães, cognome do primeiro habitante do lugar era um Português, que, ao morrer, legou a Nossa Senhora da Penha mais de cem alqueires de terra, que constituem, atualmente a Cidade de Rio Vermelho. Não se tem notícia de quem desbravou a região, nem das primeiras pessoas que ali se fixaram. Parece que o povoado surgiu por ser o ponto de cruzamento das estradas de Diamantina para Minas Novas, Nova Filadélfia (hoje Teófilo Otoni), Serro, Peçanha, Guanhães. Segundo o Dr. Nelson de Sena, em sua "Memória Histórica e Descritiva do Município de Serro", publicada em 1892, afirma ter sido o arraial fundado em 1776 por Antônio Gonçalves Torreão. Em algumas Divisões istrativas Oficiais do Estado, aparece o nome do distrito ora com o nome de "Nossa Senhora da Pena do Rio Vermelho" outra ora com o nome de "Rio Vermelho", o nome de "Nossa Senhora da Pena", é pelo da padroeira do lugar ter este nome. Entretanto, apos a emancipação política do distrito, em 1938, desmembrado do município de Serro, o nome ficou definitivamente sendo somente "Rio Vermelho". Esse nome foi dado pela circunstância de o município ser banhado pelo "Rio Vermelho", cujas águas apresentam uma cor avermelhada. O gentílico das pessoas que nascem nesse torrão é "Riovermelhense".

Existiram no distrito dois partidos políticos: "O Tanajura" e "O Formigão", este chefiado pelo Padre Francisco de Paula Câmara e aquele por Honório Lopes de Figueiredo e Bernardino dos Santos Carvalhais. O então distrito de Rio Vermelho contou com seu próprio jornal, no período de 1915 a 1923, cujo nome era "O Rio Vermelho". Mais tarde em 1950, surgiram mais dois jornais locais de nomes "A Verdade" e "O Ideal", que foi até 1952.

Formação istrativa
O distrito de Rio Vermelho foi criado pela Lei Estadual n° 2 de 14 de setembro de 1891. No "Anuário e Geográfico de Minas" de 1909, o Dr. Nelson de Sena apresenta a seguinte nota: "a Paróquia de Nossa Senhora da Pena do Rio Vermelho" foi criada por Alvará régio de 1817, no Governo de Minas, DD. Manoel de Portugal e Castro.

As lideranças políticas locais muito trabalharam para a emancipação do distrito, só conseguindo lograr êxito ao ser assinado o Decreto-lei Estadual n° 148 de 17 de dezembro de 1938, que elevou o distrito à categoria de Município, desmembrando-o do município de Serro. A instalação da cidade ocorreu em 1° de janeiro de 1939.

Atualmente, além do distrito sede existe o distrito de Pedra Menina.