Sabe-se que a raça origina-se da Roma antiga onde desempenhava a função de boiadeiro de tribos indígenas. Os cães foram usados para conduzir o gado, que serviria de alimento aos soldados, durante a expedição de conquista do exército romano a um local chamado " ARAÉ FLAVIAE " , que corresponde a uma região do sul da Alemanha, aproximadamente em 74 DC.Nesta ocasião também ter-se-ia descoberto as qualidades de guarda, pois a eles era acumulada a tarefa de vigiar os suprimentos durante a noite.Cerca de 260 DC , os Swabianos deslojaram os Romanos da cidade acima, tomando conhecimento da raça e mantendo a utilização dos cães boiadeiros. Descobriu-se também, antecessores do Rottweiler nos séculos III e IV como companheiro e protetor do homem. Em torno de 700 DC o Duque local construiu uma igreja cristã no local de uma antiga Termas Romana. Em escavações recentes foram encontradas telhas, em terracota vermelha, típicas das antigas vilas Romanas. Para diferenciar de outras cidades , os arqueólogos denominaram o local de "Das Rote Wil" ( A telha vermelha ), denominação essa que é conhecida como sendo a origem da atual Rottweil.A cidade de Rottweil , no estado de Wurttemberg, ao sul da Alemanha, era o local onde Metzgerhund ( cão de açougueiro ), como era conhecido, aparecia com maior frequência. A hegemonia de Rottweil como um centro de cultura e comércio consolidou-se em meados do século XII. Os descendentes dos cães pastores romanos trabalharam no auxílio do comércio de gado até meados do século XIX, quando a utilização de cães para conduzir gado tornou-se fora da lei. Nessa época, as tarefas do Metzgerhund mudaram para cão de tração, tendo sido utilizado como tal até ser substituído pelo jumento quando surgiram as rodovias. Era conhecido, então, como cão de açougueiro de Rottweil, mais tarde, abreviando, foi chamado " o cão de Rottweil " como é conhecido até hoje. Em alemão: RottweilerEsses cães pertenciam a classes trabalhadoras que tinham grande dificuldades para alimentá-los. Como sua função havia sido severamente reduzida e ele era grande demais para ser usado como cão de companhia, a raça começou a passar por grandes dificuldades.O número de Rottweilers declinou tão radicalmente que em 1892 a exposição de HEILBRONN, na Alemanha, registrou somente um pobre exemplar da criação presente. Os anais da cinologia não fazem referência da criação até 1901 quando foi formado o LEONBERGER KLUB que teve vida curta, porém notável, pois pela primeira vez foi descrito o Rottweiler em forma de padrão de raça. Nessa época foram iniciados os primeiros movimentos para sua utilização no serviço policial.Graças a sua prodigiosa inteligência, caráter firme, temperamento forte e coragem frente ao perigo, além das qualidades físicas, tornou-se um dos cães ideais para tal serviço.Em 14 de agosto de 1921 foi fundado o Algemelner Deutscher Rottweiler Klub e.V. ( ADRK ). Finalmente, em 1924, o ADRK publicou o primeiro Zuchtbuch ( Stud Book ) da raça.