На рубеже раннего и высокого Средневековья территория, на которой расположен город Ротенбург, принадлежала герцогству Восточная Франкония с 962 года входившего в состав Священной Римской империи. Здесь тогда находилось несколько маленьких поселений. Около 970 года восточнофранкский дворянин по имени Райнгер с согласия епископа Вюрцбурга основал церковь Св. Петра в селении Детванг. Эта местность принадлежала графам Комбурга, которые около 1070 года на горном выступе над рекой Таубер построили замок Ротенбург.
До 1108 года Ротенбург был резиденцией графов Ротенбург-Комбургских. Последний представитель этого рода граф Генрих завещал все свои владения основанному его семьей монастырю Комбурга. Но император Генрих V не утвердил это дарение. Конрад Швабский был назначен герцогом Франконии, а в 1138 году стал королём Германии под именем Конрада III. В 1142 году он построил в Ротенбурге новый замок Рейхсбург, в котором располагался королевский двор и в котором находилась резиденция его наместника (фогта).
После смерти не оставившего наследников Фридриха IV в 1167 году император Фридрих I Барбаросса передал Герцогство Швабия своему сыну Фридриху V, а Ротенбургом поручил управлять рейхсфогту. В 1172 году он предоставил Ротенбургу городские права, после чего началось строительство крепостных сооружений и значительное расширение города.
15 мая 1274 года король Рудольф фон Габсбург даровал Ротенбургу статус Вольного Имперского города со всеми привелегиями, в т. ч. право проведения трёх ярмарок в году. В последующие десятилетия город значительно расширился, горожане и члены рыцарских орденов построили Францисканский монастырь и Больницу Святого Духа, Тевтонский орден начал строительство Церкви Святого Якова. В 1339 году город получил от императора Людовика IV Баварского право самостоятельно заключать союзы.
С 1250 года, когда император Конрад IV Гогенштауфен в качестве залога передал Ротенбург франконскому дворянскому роду Гогенлоэ, город неоднократно (в 1325 и 1349) закладывался императорами, но каждый раз Ротенбург выкупал свою свободу за счёт собственных средств. В 1352 году город выкупил себя как заклад и ввёл своё собственное уголовное судопроизводство.
Период долгого правления бургомистра Генриха Топплера (1373–1408) был периодом процветания Ротенбурга. При нём значительно расширилась территория города, были проведены большие строительные работы. Тогда Ротенбург с населением в 5 тысяч человек активно скупал земли у самых разных феодалов, так что в итоге его область выросла до 400 кв. км. Эта политика привела к острому конфликту с могущественными соседями – бургграфом Нюрнберга и архиепископом Вюрцбурга, которые требовали себе крупных компенсаций.
Практически всё южнонемецкое дворянство объединилось против Ротенбурга. В 1407 году крупная армия в 10 тысяч рыцарей и наёмников двинулась против города, захватила и разорила ротенбургскую область. В результате многомесячной осады город взят не был, а в октябре 1407 года бургграф Нюрнберга и епископ Вюрцбурга объявили себя банкротами. В феврале 1408 года в Мергентхайме между ними был заключён мир, по которому Нюрнберг и Вюрцбург принудили Ротенбург к отказу от последующих территориальных приобретений.
Долгое время власть в Ротенбурге принадлежала городскому патрициату, к которому принадлежали высшие слои бюргерства, представители купеческой знати и чиновничество магистратов. Ему принадлежала финансовая, административная и судебная власть в городе, из его представителей формировался Городской совет, его представители возглавляли важнейшие учреждения города. Только в 1455 году ремесленно-цеховые гильдии Ротенбурга, наконец, добились права избираться в Городской совет. Но, тем не менее, реальная власть в городе продолжала оставаться в руках патрициата, формировавшего правительство города – «Внутренний совет».
В начале 15 века в городе начались распространяться идеи протестантской Реформации. Во время Крестьянской войны в Германии (1524–1525) Ротенбург был одним из центров крестьянских восстаний. В самом городе тогда начали вводить Реформацию. Одновременно иконоборцы во главе с доктором Карлштадтом стали призывать к уничтожению дорогостоящего убранства церквей. Ротенбург в апреле 1525 года вступил в союз с действовавшим в округе крестьянским войском рыцаря Флориана Гейера («Чёрным отрядом»). После того, как он был разбит войсками Швабского союза, по решению городского совета Гейер был выдворен из Ротенбурга. Маркграф Казимир Ансбахский жестоко расправился с городскими мятежниками, наложил на Ротенбург контрибуцию и восстановил католическое богослужение.
В 1543-1544 годах при бургомистре Иоганне Хорнбурге в Ротенбурге была окончательно введена протестантская Реформация. Церковными делами в городе руководила Консистория из 3 членов муниципалитета и 3 священнослужителей. Католическими организациями в городе остались лишь Орден иоаннитов (до 1809 года) и Тевтонский орден (до 1672 года), но оба рыцарских ордена вынуждены были отказаться от своих церквей, святого Иоанна и святого Иакова. Город тогда присоединился к Шмалькальденскому союзу протестантских князей и городов против католического императора Карла V, а во время Второй маркграфской войны (1552 – 1554) поддержал восставшего против императора маркграфа Альбрехта II «Алкивиада» фон Бранденбург-Кульмбаха. После его поражения и бегства Ротенбург сдался, был занят войсками Карла V и был вынужден выплатить контрибуцию в 80 тысяч гульденов.
В последующие десятилетиях и до начала Тридцатилетней войны (1618–1648) город процветал. Совет и горожане тогда построили много выдающихся зданий в стиле Ренессанс.
В 1609 году Ротенбург присоединился к Протестантской унии – союзу протестантских князей и городов. 12 сентября 1619 года в ситуации уже начавшейся войны в Ротенбурге состоялся съезд участников унии, на котором обсуждался вопрос, должен ли её лидер Фридрих V Пфальцский принимать богемскую корону.
В «шведский» период Тридцатилетней войны (1631–1634) город неоднократно занимали шведские протестантские войска и императорские католические, но если шведов он пускал добровольно, предоставляя им зимние квартиры, то императорские войска брали его с боем. В последний раз Ротенбург был занят французами в 1645 году и освобождён только в 1650 году уже после Вестфальского мира 1648 года. При подписании мира Ротенбург вынужден был заплатить 50 тысяч гульденов контрибуции, которые ему пришлось взять в долг. Долги вынудили впоследствии Ротенбург к закладам и продажам ценностей и недвижимости. В целом, в результате военных действий, постоев, грабежей и эпидемий его население сократилось наполовину. В дальнейшем развитие города практически остановилось и он потерял какое-либо значение.
В 1802-1803 годах на основе решений европейских великих держав и немецкого Рейхстага в возмещении князей, которые должны были уступить расположенные на левом берегу Рейна области Франции, имперский город Ротенбург потерял свою независимость и перешёл к Баварии. Для уплаты долгов города Бавария продала тогда много общественных зданий и земельных участков Ротенбурга.
Только в последней трети 19 века в городе началась индустриализация и промышленный рост. Этому в немалой степени способствовало открытие в 1873 году железнодорожного сообщения. Жители Ротенбурга тогда занимались производством детских колясок, игрушек, золотых и серебряных изделий, устройств для мельниц, сельскохозяйственных машин, пива, красок, порошков, гипса. В сфере сельского хозяйства развивалось виноградарство. Промышленное развитие потребовало развитие городской инфраструктуры, в частности, в 1869 году был введён в строй второй городской водопровод (первый появился ещё в 15 веке). Индустриализация привела к увеличению численности населения Ротенбурга с 5 382 в 1871 до 8 612 человек в 1910 году. На рубеже столетий Ротенбург стал популярным местом туризма у англичан и французов.
Незадолго до окончания Второй Мировой войны 31 марта 1945 года 386 американских военных бомбардировщиков разрушили примерно 40% зданий Ротенбурга. Разрушение коснулось преимущественно новой восточной части города, так что наиболее значительные памятники архитектуры в старой части уцелели. 17 апреля 1945 года Ротенбург был освобождён наступавшими американскими войсками.
В течение следующих послевоенных лет город был восстановлен в старом стиле. Благодаря беженцам и переселенцам возросла численность населения Ротенбурга с 8 939 в 1939 до 11 924 человек в 1971 году.
В настоящее время Ротенбург-на-Таубере один из самых популярных городов Германии для туристов всех стран. Ежегодго его посещает более 2-х миллионов человек. Особенно много туристов собирается на ежегодный исторический Праздник Имперского города