20世纪50年代末，国家计划于京沪、京广两大干线之间修建一条纵贯南北的京汕铁路，初定走向是从北京经衡水、商丘、九江到广东汕头，在九江附近修建长江大桥。1959年由铁道部大桥工程局就桥址方案进行调查研究，先后对九江市上游70公里的田家镇、长江上游50公里的武穴和九江市的锁江楼、白水湖、金鸡坡五个桥位进行过比选，在1960年鉴定时放弃了田家镇和武穴桥址方案。是年因国民经济调整，京汕铁路及其九江桥修建计划搁置。
十年后大桥局再次对桥址进行勘测设计，1971年年底提出《修建九江长江大桥调查研究报告书》。《报告书》推荐白水湖桥址为首选方案。1972年6月24日，交通部向国家计委呈交《九江长江大桥及合肥—九江铁路设计任务书的报告》，次年获准。大桥局负责该桥的设计、施工。最初确定采用正桥主通航跨为162米+216米+162米的单拱方案。后因个别桥墩的地质原因，对桥式方案提出修改，修改方案得到国家建委的同意，改用正桥主通航跨为180米+216米+180米的三拱方案。 1959年铁道部第四勘测设计院在九江市区选择锁江楼和金鸡坡九江长江大桥桥址的两个方案。1960年大桥局根据铁道部意见，再次在武穴左岸、九江金鸡坡与锁江楼、及金鸡坡下游进行更广泛的地质钻探，最终选择出位于九江市锁江楼与金鸡坡之间的白水湖桥址方案。1960年6月25日该方案上报铁道部，获得批准。白水湖桥位线路位置适中，河道顺直，深泓线偏南，直稳定、变化少、航运条件较好；基岩较完整，强度较高，水深不大，南岸丘陵地带可资利用，引桥可以缩短，且与九江市区位置适中，两岸拆迁极少，对城市发展较为有利。同时省、市地方航运、交通及军事部门均对该桥址表示认同。为了寻找较为理想的地质条件及配合南岸引线走向的比较，进一步在白水湖地区300米宽的江面范围内确定三条中线进行勘探比较，最后选定现有的桥位中线。桥址北岸为湖北省黄梅县小池口镇，地势平坦。南岸中线跨越白水湖及名为曹家山的一片丘陵。两岸已有的大堤间距离约1960米。白水湖桥址最大施工水深约25米。
九江大桥为双层式铁路、公路两用桥。铁路桥全长7675米（比南京大桥长903米），公路桥全长4460米。正桥钢梁1860米（比南京在桥长230米）。正桥下层为双线铁路，上层为公路。公路为四车道，宽14米，两侧各有2米宽人行道。正桥共11孔钢梁，江中有10个桥墩，最大 跨度为216米，两岸各一座桥头堡。桥式组成由北向南为：两联3×162米连续桁梁，一联180米+216米+180米柔性拱刚性桁梁，一联2×162米连续桁梁。桁宽12.5米，桁高16米，加劲腿高分别为14米、16米，三大拱式高分别为24米、32米、24米。正桥钢梁采用高强度钢材15锰钒氮钢，最大钢板厚达56毫米，大桥焊接组成杆件，工地连接螺栓为直径27毫米高强度35钒硼钢螺栓。全桥钢梁重量为3万吨。
铁路引桥南岸有35孔，北岸有109孔，合计为144孔，均为跨度40米的无碴无枕预应力钢混凝土简支箱梁，每孔两个单箱。公路引桥南岸有33孔，北岸有32孔，合计为62孔，均为跨度40米的预应力钢筋混凝土T型梁，每孔8片。 1972年，大桥局第二和第五桥梁工程处进场筹备，分驻北岸和南岸相对施工。并新组建船舶管理处，以配合两个工程处进行水上工程作业。为加强对九江桥建设的领导，成立大桥工程局九江长江大桥工程指挥部，江西省成立九江长江大桥南岸工程指挥部，协调地方关系。经过一年多施工准备，1973年12月26日九江长江大桥正式开工，分别采用钢筋混凝土沉井基础、浮运钢沉井钻孔桩基础、钢板桩围堰混凝土管柱基础和双壁钢围堰钻孔桩基础四种类型。深水基础施工中，由陈新、粟杰首创双壁钢围堰钻孔桩基础施工在7号桥墩成功，随后在6号、5号、3号桥墩相继采用。由于采用该施工法，不受长江水位变化影响，汛期照常施工，缩短了工期，创造了一个枯水季建成一个深水桥墩的新纪录。桥下基础施工中，使用直径2.5米反循环施转钻机，用泥浆套、空气幕帮助下沉深沉井，在我国建桥史上都是第一次使用。1975年6月铁道部批准水中正桥10号墩开始施工。至此，大桥建设进入全面施工阶段。1979年底正桥墩台基本完工。
参加该桥建设的大桥局勘测设计院和第二、第五桥梁工程处有干部、专家、工人3000余名。1974年交通部全桥总概算为2.7亿元，1986年正桥下部建筑及两岸公、铁路引桥架梁完毕，累计完成投资2.36亿元。 1979年底正桥的墩台完成后，由于全国贯彻“调整、改革、整顿、提高”的方针，铁路建设计划也相应调整，九江大桥缓建.为使九江桥建设不致于中断，国家拨给部分资金，放慢建设速度，就这样拖了8年。
1986年11月27日，国务院副总理万里视察九江桥工地，放眼长江江面，10个桥墩矗立在滚滚的江涛中，时光如水，钢梁架设工程迟迟不得进行，心情非常沉重，指示启动大桥建设。1987年国家计委召集铁道部、交通部以及江西省、湖北省、安徽省各方集资加快九江桥建设，先通公路。是年重设九江长江大桥指挥部统一指挥领导，指挥长兼党组书记李瀛沧，副指挥长兼总工程师赵煜澄。 在党中央的关心和支持下，停建近10年的九江长江大桥终于开始续建。1989年5月开始安装正桥钢梁。架设方法是两岸各用一台起吊能力为35吨的拼梁吊机，自岸边逐孔悬臂拼装，直到最大主孔216米的跨度中央合龙。国外有起吊能力为3000至5000吨的大型浮吊，可用来架梁，但这种浮吊开不进内河。大桥建设者采用一大型吊索塔架，用前后斜拉索来减少悬臂孔、锚孔安装应力，实现整跨162米、180米全悬臂安装。双层吊索塔架高52.43米，重933.98吨，内索承受力1200吨，外索承受力800吨，是大跨度钢梁架设的关键设备，由大桥船管处制造，1990年6月在北岸拼装完毕。6月28日，开始162米跨度钢梁悬臂拼装。至1990年末，北岸完成正桥五孔钢梁架设；南岸第十一孔钢梁设膺架四座，在膺架上拼梁72米，再悬臂拼出54米到达第十号桥墩。1992年5月18日8点40分，大桥合龙成功。是年8月9日完成三大钢拱合龙。
1992年大桥局完成九江桥桥面及其他附属设施补充初步设计，于1993年2月通过鉴定。1993年初公路开通。至此，工程施工达20年。1994年8月铺通双线普通轨，限速通行工程列车，又铺成无缝线路，1995年6月1日正式开通运营。为京九铁路全线南北贯通起到关键性作用。 九江长江大桥长达20年的建设工期中，大桥局充分发挥了“设计、科研、施工、制造”四位一体的企业优势，采用先进的建桥技术，创造了十项全国第一，获得国家奖励多项，为中国建桥事业的发展和科技进步作出显著的贡献。
铁路桥全长7675米，是长江上最长的桥；钢梁跨度长达216米，是中国跨度最大的铁路、公路两用桥，也是中国最大的一座全栓焊桥梁；钢梁材料采用15锰钒氮高强度钢、56毫米厚板焊接，高强厚板居中国之首；钢梁连接采用大直径27毫米高强度螺栓，预张力30吨，第一次用于铁路桥上，为中国之最；钢梁安装采用双层吊索塔全伸臂安装跨度180米钢梁，为中国首创，具有国际先进水平；跨度216米带加劲腿桁梁跨中合龙及三大柔性拱合龙，在国内均是第一次；基础结构采用又双壁钢围堰钻孔基础，为中国首创，1981年荣获国家级优秀设计奖；个别地质复杂、软弱地层的浮式箱形基础，在国内首次采用；基础施工采用泥浆套和空气幕下沉沉井50米，为中国桥梁之最，并首次用于水中基础；在引桥工程中，铁路40米跨度三段式无碴无枕预应力箱梁在中国首次采用；特制箱梁架桥机吊重300吨，为中国之最。
1997年，京九线九江长江大桥建桥新技术获铁道部部级科技进步奖特等效。其中主要完成单位有大桥局、铁道部科研院和山海关桥梁工厂，主要完成人员有：方秦汉、粟杰、赵煜澄、李赢沧、邵克华、陈新、万方、曹春元、吴皋声、刘曾达、潘际炎、严国敏、胡仁、张必敬、高德春、殷万寿、华有恒、顾金钧、周昭伟、张靖。特别是江西籍专家潘际炎、潘际銮兄弟为大桥56毫米厚板焊接技术难题的解决作出了突出贡献。
