“亳”地属古豫州，成汤为诸侯时即居于此。“亳”当时写作“薄”。《汉书·地理志》有注云：“亳同薄”。《史记》载：“自契至成汤八迁，汤始居亳”。商曾几度迁都，人们将汤所都之地统称为“亳”，包括南亳(今河南商丘以南，安徽亳州以北)，北亳(今山东曹县一带)，西亳(今河南偃师一带)。

现在的亳州，系南亳故城域。周代，此地称“焦”。秦统一中国，推行郡县制，在此置谯县，隶属砀郡。秦末陈胜、吴广于大泽乡起义后，由于一时难以取北面的彭城，便占踞谯县。

西汉，谯县隶属豫州刺史部所辖之沛郡。东汉时，沛郡改为沛国。建安末年，析沛国之一部置谯郡，曹操以谯郡一带为基地，不断在军事和经济上扩充自己的力量。曹操在谯郡等地实行屯田，大力开展“军屯”、“民屯”，促进了谯郡地区农业生产的发展和经济实力的增长。魏文帝皇初二年(22l)，谯被封为“陪都”，与许昌、长安、洛阳、邺并称为五都。北魏正始四年(507年)置南兖州。北周大象元年(579年)，

因南兖州地处古南亳近临，故“遥取古南亳之名以名州”，改南兖州为亳州，亳州之名，始见于此。曾经是韩林儿的都城。韩林儿是元末农民起义领袖，曾在亳州建都。