Os primeiros colonizadores do município chegaram em 1880, contabilizando duzentas famílias de origem eslava, polonesa, sueca e russa. Alguns anos depois, chegaram as primeiras famílias italianas, formando pequenos núcleos de povoação. Em homenagem à capital italiana, o primeiro nome do município foi Vila Nova Roma. No dia 06 de janeiro de 1899, o Padre Alessandro Pelegrini rezou a primeira missa no local. Em 1900, foi construída a primeira igreja e, em 1902, foi criado o curato de Nova Roma, constituído de trezentas e sessenta e duas famílias e 2867 habitantes. A antiga Vila Nova Roma, que foi 2º Distrito de Antônio Prado, conseguiu sua emancipação no dia 30 de novembro de 1987, tornando-se o município de Nova Roma do Sul.
Nova Roma do Sul está localizada a 151 Km da capital Porto Alegre.