徐州历史上曾用过的名称有彭城、下邳、彭城郡、下邳郡、彭城国、下邳国、彭城府、下邳府、徐州府、徐州等。彭城之名最早见于《尚书·禹贡》，为夏禹所封彭祖的封地。

秦朝时设彭城郡，东汉时析彭城郡置下邳郡。

晋朝时改彭城郡为彭城国，下邳郡为下邳国。

隋朝废国为郡，改彭城国为彭城郡，下邳国为下邳郡。

唐朝时改彭城郡为彭城府，下邳郡为下邳府。

明朝时废府为州，改彭城府为徐州府，下邳府为下邳州。

清朝时改徐州府为徐州。1912年，废府为道，改徐州为徐海道。1927年，废道为省，改徐海道为江苏省徐州专区。1949年，改徐州专区为徐州市。