元至元中升庐州置。属河南江北行省。治合肥县(今市)。辖境相当今安徽六安、霍山等市、县以东，肥东县、和县以南，庐江、无为等县以北，长江以西地区以及湖北英山、江苏江浦等县地。元至正二十四年(1364)朱元璋改为府。
