1933年，由中国近代民主革命家、教育家，时任国立中央研究院院长的蔡元培先生倡议创建的国主中央博物院筹备处落成。蔡先生亲自兼任第一届理事会理事长，在中山门半山园征地12.9公顷，原拟建“人文”、“工艺”、“自然”三大馆，后因时局关系，仅建“人文馆”，即南京博物院大殿。该建筑为仿辽代宫殿式，由民国著名建筑师徐敬直设计，经建筑大师梁思成修改。
当时通过收购、拨交、发掘，集中全国第一流珍品约二、三十万件，其中包括绘画中的《历代帝后像》、《唐人明皇幸蜀图》；铜器中的毛公鼎、后母戊鼎等稀世国宝。
南京博物院当时为中国唯一一座仿照欧美第一流博物馆建馆的现代综合性大型博物馆，直属当时的教育部领导，北平历史博物馆曾归属于中央博物院的建制而成为分院。
1934年7月，傅氏因中央研究院本职事务太忙而离职，教育部改聘李济继任。李济上任后，着手进行博物院主体建筑的兴建，成立中央博物院建筑委员会，委员长为翁文灏，委员有张道藩、傅汝霖、傅斯年、丁文江、李书华、梁思成、雷震、李济。
在1934年7月26日第一次会议上，公推其中的张道藩、傅斯年、丁文江三位为常务委员，梁思成为专门委员，会议还讨论了征用院址土地的问题。8月4日，筹备处即正式致函南京市政府，拟征收中山门内路北旧旗地为院址。至1935年4月，市政府正式函复，划定半山园旗地100亩为院址，后又增加93亩。地价、青苗、拆迁诸费共五万多元，由中央研究院补助，于1935年分别拨付。建筑费由管理中英庚款董事会补助150万元。当时计划建：自然馆1410平方丈，人文馆1320平方丈，工艺馆2000平方丈，公用270平方丈，共计5000平方丈。建筑工程分三期进行，第一期包括行政办公楼和人文馆等，人文馆暂由三馆共用。
1935年4月16日第二次会议上，通过了征选建筑图案章程，邀请李宗侃、李锦沛、徐敬直、杨廷宝等13位建筑师送设计图参选。审查委员会由管理中英庚款董事会总干事杭立武、著名建筑师刘敦祯、专门委员梁思成及张道藩、李济等5人组成。经审查，全部图案均不符合章程规定，故决定从各图中选出比较合用、最有修改价值的图案。用不记名投票的方法，审查委员们一致选出兴业建筑事务所建筑师徐敬直设计的图案，报呈教育部备案。院建筑委员会聘请徐敬直为本院建筑师，由他会同专门委员梁思成等修正原图，测量院址，并指导、监督建筑工作。参选的十多份建筑图案，还于同年10月初在博物院筹备处公开陈列展览。
兴建中的国立中央博物院
1935年9月6日，在13份竞选设计方案中，兴业建筑事务所建筑师徐敬直所拟建筑图案当选，徐敬直被委任为筹备处建筑师。徐敬直原设计大殿为清式建筑，经会同梁思成修改成仿辽建筑，陈列室内部为西式建筑样式。[3]
为加强对中央博物院筹备处的领导，1936年4月成立了中央博物院第一届理事会并举行第一次会议，由教育部会同中央研究院聘请蔡元培、王世杰、胡适、李书华、秉志、朱家骤、张道藩、翁文灏、李济、傅斯年等13人为理事，公推蔡元培为理事长，傅斯年为秘书长，拟定通过《国立中央博物院理事会议事细则》、《国立中央博物院各馆组织暂行通则》，确定理事会的职责是推举院长，负责审议预决算，监督藏品的保管，为开展学术研究设立各种专门委员会等。同年11月12日，举行了隆重的建筑工程奠基典礼。蔡元培到南京，主持奠基典礼及理事会第二次会议。蔡元培先生于1940年逝世后，由王世杰任理事长。
一期工程完工后的国立中央博物院
1936年6月6日，国立中央博物院第一期工程开始动工。同年11月12日，建筑工程奠基仪式举行。1937年8月，因时局变化，第一期建筑工程完成75%后，被迫停工。1947年，一期工程按原设计继续进行，至1948年初完工。
抗战期间，中央博物院筹备处连同所属的文物于1937年底迁离南京，将文物分三路转移到西南各处，经过数处转辗，最终于1940年底驻扎于宜宾李庄，与同在一地的中央研究院历史语言研究所、同济大学、中国营造学社、金陵女子大学、北大文科研究所等著名科研教育机构一起成就了李庄抗战文化中心之名。1946年5月至1947年3月，文物全部运回南京。
日寇占据南京期间，在博物院设有防空总机构，对已完成的部分大加改造，并破坏多处，损失严重。1946年8一12月，在中山门内院部，建筑委员会连续召开了三次会议，讨论并通过了修复工程计划。在修复计划决定前，由傅斯年代表建筑委员会，通过谈判，解决了原承包商江裕记问题，得以另行招标复工。经过公开招标，报价最低且信誉很好的陆根记中标。
1946年12月份签订合同后，即行开工，仍按原设计图案进行。主要项目包括人文馆陈列室、大小讲堂及图书室、理事会及院长办公室、人文馆保存库、研究室等。电气、卫生及消防等附属工程，也以招标的形式进行。
1948年4月，第一期工程及附属工程竣工，并通过验收。5月29日一6月8日，中央博物院筹备处与故宫博物院在新落成的博物院陈列室内举办了联合展览，展出商周铜器、汉代文物、民族文物、历代帝后像等，蒋介石、于右任等要员名流出席、参观，观者塞途。
1948年，国民政府将北京故宫、南京中央图书馆、中央研究院历史语言研究所和中央博物院的文物精品运至台湾，成立国立中央博物图书院馆联合管理处。1965年在台北落成新馆，定名为「中山博物院」，又名国立故宫博物院。此外，北平历史博物馆（今中国历史博物馆）曾一度归属于中央博物院建制而成为中央博物院北平分院。
1949年新中国成主后，南京博物院进入一个新的历史阶段，仍称“国立中央博物院”，直接由中央文化部领导。
1950年3月9日经文化部批准正式改为“国立南京博物院”，性质仍是全国综合性历史艺术博物馆，由文化部文物事业管理局领导，经费由中央拨款，任务由文化部直接布置，如南唐二陵发掘，六朝陵墓调查等。50年代初，人民政府又拨款对博物院的建筑作整修、增建，至此，博物院的第一期建筑工程算最后完成。博物院的主体建筑完美地体现了设计图案的精神和要求，形象古朴庄重，气势雄伟高大，因屋檐两边呈弧形渐渐向上翘去，庄重中又略有轻灵之感，而不显板滞沉重，成为南京城东一处醒目且耐人品赏的风景。
