先说“地名”的定义。大致而言，这里所讨论的地名，乃现在的地级市一级的地名，如石家庄，驻马店，枣庄等等。县级政区和省级政区名称不在讨论范围。而地级市这一级，对应古代的便是统县政区。所以，我们讨论的是自古以来统县政区名称的变化。
再抛结论：古代典雅地名的消失对应的就是行政区划的变动。特别是统县政区的郡→州，州→府，府→地区，三次大的变动，对地名的影响尤甚。
开始详述：
一、秦统一，推郡县制，奠定秦汉统县政区的地名基础
秦统一六国，将郡县制推广到全国，汉承秦制，也基本沿袭郡县制。至汉武帝，郡县制成为了我国地方基本政治制度。所谓郡县，即以郡统县，统县政区称郡，即某某郡或某郡，其中以三字郡名为多数。
题主和其他答主所提到的许多古代典雅地名，如汝南、豫章；另有朔方、渔阳、上谷、会稽、庐江、南海……等等，皆是郡名。即汝南郡、豫章郡、朔方郡、渔阳郡……少数两字郡名的有南郡、东郡、陈郡等等。
这些郡名，肇基于战国时代，定型于秦统一，而后在两汉魏晋时代逐渐增加扩展，即汉代以后人口增加、经济发展、加之南方开发，新的郡一直在增加。在此时，基本不存在地名变更的问题，至多也就是出现了一些新的郡名而已。
二、州郡县三级制糜烂，隋唐重建州县二级制，是为第一次地名大变动
魏晋南北朝以降，尤其是北魏南梁开始，整个地方政区制度开始混乱，基本表现为州郡数量的爆炸式增长：由原来汉代十余州-数十郡-千余县变成了数十州-数百郡-千余县的地步。州郡数量的增加使得行政效率极大降低，原来金字塔型的统御结构变成了垂直树状，对于中央集权非常不利。
所以，隋代重新统一以后，釜底抽薪，罢天下诸郡，改州郡县三级制为州县二级制【隋代大部分时间是州县二级制，少部分时间是郡县制，但隋书地理志以郡县制为准，故大家一般都认为隋代是郡县二级制。】。统县政区变成了州（后来又恢复成了郡）。在隋代郡县制时期，大体上地名还是原来那些地名，增加了一些新郡名，少部分改名。
以今河北地区为例：
西汉时有涿郡、渔阳郡、右北平郡、上谷郡、河间国、中山国、信都郡、赵国、渤海郡、平原郡、清河郡、魏郡、巨鹿郡等诸郡；
隋代时则有涿郡、渔阳郡、北平郡、上谷郡、河间郡、博陵郡、信都郡、赵郡、渤海郡、平原郡、清河郡、襄国郡、武安郡、武阳郡、魏郡、汲郡。
基本上还保留了原来的地名结构。
唐初，又罢天下诸郡，改郡为州。【注意，此时的州，已经不是汉代幽州、冀州等统郡的作为高层政区（等于现在的省）的州，而已经降了一级，变成了直接统县的作为统县政区的州（等于现在的地级市）】
州的命名，起源自禹贡九州，都是单名，如雍州、兖州、徐州等等。沿袭而来，唐代统县政区的州名也都是单名。这和之前复名的郡名大为不同。所以，自此一改，某某郡变成了某州，上古时代优雅的郡名，基本上都消失了。
还是以河北地区为例：
隋代时则有涿郡、渔阳郡、北平郡、上谷郡、河间郡、博陵郡、信都郡、赵郡、渤海郡、平原郡、清河郡、襄国郡、武安郡、武阳郡、魏郡、汲郡；
唐代则变成了：平州、冀州、幽州、沧州、易州、莫州、瀛洲、定州、深州、赵州、邢州、洺州、贝州、相州、魏州、博州等等……
除了魏郡、赵郡这几个单名郡的名字改为了魏州、赵州之外，其它的全变了。
当然，郡名并不是这么一下子就消亡的，到了宋代，基本上每个州都还保留有自己的郡名（雅名）。
三、明清省府县三级制，是为地名第二次大变动
唐代的州县二级制维持了一百多年便坚持不下去了，变成了道州县三级制，到了宋代则是路州县虚三级制。不过州作为统县政区，基本上变化不大，除了偶尔新增之外，名称没有多大的变化。这一点和秦汉以后的郡一样。
但是，元代一统，由于它是少数民族入主中原的征服王朝，因此在行政制度上也颇具特色。具体而言就是一团乱。省-路-府-州-县，名义上五级，但是其中可以胡乱搭配，导致了很大的混乱。
明代建立以后，基本上确定了省府县三级制的框架。高层政区是如今大家熟悉的省，统县政区则由州变成了府。
府原来是比较高级的州。唐代府比较少，如京兆府长安、河南府洛阳、太原府太原。到了宋代府增多了。而明代开始，府直接替代州成为了统县政区。如此一来，那些单名的州就消失了，变成了复名的府……
来来来，再以河北地区为例：
唐代有平州、冀州、幽州、沧州、易州、莫州、瀛洲、定州、深州、赵州、邢州、洺州、贝州、相州、魏州、博州等等；
到了明代，变成了：永平府、顺天府、保定府、河间府、真定府、顺德府、广平府、大名府等等
等于又重新刷新了一遍。不过值得注意的是，河间这个名字，消失了数百年以后，由郡名重新变回了府名，再次荣登统县政区名的宝座。河间郡→沧州→河间府。另外，有时候从某州改为某某府时，就是直接在后面加了个府字。如：庐州→庐州府。
四、民国以后撤府，共和国以后设立地区，地名再次变动
民国以后，府被撤销，地方上是省县两级制，府的地名全部消失。共和国建立，因为省县两级制管辖不方便，所以在省之下设立派出机构“地区”，一般称为某某地区，驻于某县，管辖附近数县。我们以安徽省为例：
清代，安徽省之下为：庐州府、六安州、安庆府、池州府、徽州府、宁国府、太平府、和州、滁州、泗州、颍州府。
1951年皖南皖北行署区之下有：合肥市、蚌埠市、淮南市、芜湖市、安庆市、宿县地区、阜阳地区、六安地区、滁县地区、巢湖地区、安庆地区、徽州地区、池州地区、宣城地区。
“地区”之名，来源大致有二：一为沿用原府名，如：安庆府→安庆地区、徽州府→徽州地区；二、以驻地县名命名，如：阜阳地区（原颍州府）驻阜阳县、宿县地区（大致原凤阳府）驻宿县、宣城地区（原宁国府）驻宣城县。前一种地名不变，后一种则发生了变化，而且让人感觉变俗气了很多。
改革开放以后，各地掀起了撤地建市（撤销地区，建立地级市）的风潮，这其中也就必然带来了一些原来的县名变成了地级市名。如：阜阳市、宣城市。当然，在这一阶段过去的一些地名还是保留了许多的。
至于说为什么很多地名在古代十分风雅，而现在被重命名后就失去雅致。从上可以看到，郡名州名府名相对都比较雅致，但是县名就一般了。所以如果是由县名提升为地级市名的地方，一般都会比较俗，而近代以来新起的地名，尤其是1949年后的，就更俗气了一些。就不多说了。
最后举几个地名变迁的例子：
①京兆尹（西汉）→京兆郡（隋）→京兆府（唐）→西安府（明）→西安市/西京（民国）
【京兆→西安】
②恒山郡（秦）→真定国（西汉）→恒山郡（隋）→恒州（唐）→真定府（明）→正定府（清）→石门市（1925 注：驻所迁移）→石家庄市/石家庄地区（1947）→石家庄市（1978）
【恒山→真定→恒山→恒州→真定→正定→石门→石家庄】
③吴郡昆山县（隋）→苏州华亭县（唐）→秀州华亭县上海务（北宋）→松江府华亭县上海镇（南宋）→松江府上海县（元）→松江府上海县（清）→江苏省上海县（民国）→上海特别市（1927）→上海市（1930）→至今
【（吴）→（苏州）→松江→上海】
④余杭郡（隋）→杭州（唐）→临安府（南宋）→杭州府（明）→杭州市/杭县（民国）→杭州市/临安地区（1949）→杭州市（1960）
【余杭→杭州→临安→杭州→杭州】
最后介绍一个神地名：长沙
⑤长沙郡（战国楚）→长沙郡（秦）→长沙国（西汉）→长沙郡（东汉）→长沙郡（三国）→长沙郡（西晋）→长沙郡（东晋）→长沙郡（南朝宋）→长沙郡（南朝齐）→长沙郡（南朝梁）→长沙郡（南朝陈）→长沙郡（隋）→潭州（唐）→潭州（宋）→天临路（元）→长沙府（明）→长沙府（清）→长沙市（1933）→至今
【长沙→潭州→天临→长沙】
温馨提示：答案为网友推荐，仅供参考