A denominação da localidade de Barão provém, segundo o Pe. Rubem Neis, do Barão de Holleben, Luiz Henrique Von Holleben, que nasceu em Saxe Mainer, na Alemanha, formando-se em engenharia na Inglaterra e vindo casar-se no Brasil com dona Maria da Luz dos Santos na cidade de Curitiba, Estado do Paraná. O Barão Von Holleben acompanhou em setembro de 1880 como engenheiro ferroviário, o engenheiro Carvalho Borges, a Conde D'Eu, hoje Garibaldi e Bento Gonçalves, a fim de dirigir as obras da estrada de ferro entre Montenegro e Bento Gonçalves O Barão estabeleceu residência no ponto mais avançado da colonização alemã, entre Salvador do Sul e Carlos Barbosa, no local posteriormente denominado "Barão", mas que na época era pouco habitado. Para designar o local onde morava, quando alguém queria falar com ele, dizia "Vou lá no Barão". O Barão Von Holleben permaneceu aqui por mais dois anos, vindo a transferir-se depois para Porto Alegre, onde, entre 1882 e 1894, trabalhou na linha de bondes de Ferro Carril.

 Existe, porém, uma outra versão sobre a origem do nome de Barão, encontrada no livro intitulada em Montenegro, editado em 1924 pelo historiador Campos Neto, na qual o mesmo afirma ser o nome de Barão originário de Francisco Mário de Abreu, chamado Chico Pedro, Barão de Jacuí. Chegando a afirmar que o Barão Von Holleben não residiu no local: o seu nome Barão, querem uns que seja originário do Barão Von Holleben, mas supomos errônea essa afirmação. Não consta que esse titular alemão ali residisse. Posteriormente afirma o historiador: "O Barão do Jacuí deve ter dado o nome a este Distrito". As famílias que povoaram o primeiro núcleo que deu origem a Barão, foram imigrantes italianos oriundos do Norte da Itália. No começo do século, Carlos Selbach exerceu influência marcante em todas as áreas, bem como Luiz Calliari, que era Mestre da Capela. Até 1916, as celebrações religiosas eram feitas na residência do Sr. João Schmitz, um dos incentivadores da construção da primeira Capela, Regente de Coral, músico e doador do primeiro Harmônio para a comunidade Católica baronense. De 1906 a 1911 foi construída a via férrea que liga Porto Alegre a Caxias do Sul, sendo inaugurada a estação de Barão em 1º de dezembro de 1909.

Com os trabalhos de construção e conservação da ferrovia, foi aberta uma pedreira nas terras de João Bassegio e Vva. Itália Daí Prá, grande fonte de renda que na década de 30 trouxe 21 famílias de ferroviários, os quais fixaram residência nos arredores da pedreira, criando um núcleo habitacional organizado. Dedicavam-se a exploração da pedreira e também à agricultura. Foi instalado o recinto da Viação Férrea e aberto a Rua que hoje leva o nome de Antônio Simon, nas áreas cedidas pela família de Vva. Itália Daí Prá, ligando o centro do Distrito à pedreira, distante mais ou menos um quilômetro da estação.

No centro funcionava a cantina e Armazém de Secos e Molhados da família Hartmann, com grande sortimento de produção. As uvas eram adquiridas dos produtores de toda a região, que traziam os tonéis e cestos abarrotados em carroças puxadas por juntas de bois. Além da estrada de ferro a rodovia Buarque de Macedo ligava Barão a Montenegro e Porto Alegre e Garibaldi " Bento Gonçalves " Caxias do Sul. Consta em arquivos que D. Pedro II teria passado por aqui, com sua comitiva. Todavia, Barão cresceu ao lado dos trilhos da Viação Férrea, mas as condições precárias da ferrovia, a região com solo bastante acidentado levou a sua desativação em 10 de junho de 1979, desaparecendo o trem de carga e o trem de passageiros, surgiu, então a necessidade de ampliar os meios de transporte rodoviário. Surgiram mais ônibus, caminhões e carros particulares substituindo também os carros de boi e os próprios cavalos, muito usados antigamente na região.