1911年6月20日，徐芝纶出生于江苏省江都县一个知识分子家庭。他从小自重好学，勤奋努力。
1919年夏天，徐芝纶和几个妹妹弟弟，在父亲徐庭翼和母亲张稼梅的带领下，告别了邵伯“徐大楼”，举家搬至扬州。不久，徐芝纶的其他亲属也陆续迁至扬州。徐芝纶等在扬州一所教会学校明德小学上学，以后又到北京上中学。然而，谁也没有想到，从8岁到88岁长达80年的时间里，徐芝纶竟然再没有回到给他的童年留下快乐记忆的地方。
1930年考入清华大学土木工程系，1934年7月于清华大学土木系毕业，留校当助教。
1935年，他以优异成绩考取公费留美。1936年获美国麻省理工学院硕士学位，接着转入哈佛大学学习。
1935—1936年，美国麻省理工学院学习，获土木工程硕士学位。1936—1937年美国哈佛大学工程科学研究院，获工程科学硕士学位。
1937年，又获哈佛大学工程科学硕士学位。当时，中华民族正值苦难岁月，祖国正遭日本侵略军的大规模入侵，国难当头。他以“教育救国”的赤子之心谢绝了麻省理工学院两位导师许以优越条件的恳切挽留，放弃了继续攻读博士学位的机会，怀着强烈的救国之心，毅然决定于1937年6月回国，到浙江大学任教，开始了他的教学生涯。
1937—1943年，徐芝纶在浙江大学任副教授、教授。他教授过应用力学、材料力学、结构力学、弹性力学、高等结构、结构设计、桥梁设计、土壤力学、基础工程、水力学、水力发电工程、水工设计、坝工设计等10余门课程。
1943年，离开浙江大学，到重庆任资源委员会水力发电勘测总队工程师兼设计课长，主持设计工作，并参加过当时由美国人主持的三峡工程初步设计。后因见一卷卷图纸归档保存，当局毫无实施之意，他又于1944年重返教育岗位。他先在中央大学任教授，抗战胜利后转到上海交通大学任教授，1948年兼任水利系主任。在长期的教学实践中，他的教学水平不断提高，讲授艺术不断丰富。当年凡听过他讲课的学生，无不为他的高质量讲课所吸引、所折服。
1943—1944年，任资源委员会水力发电勘测总队工程师兼设计课长。
1943年，离开浙大，到重庆水力发电勘测总队主持设计工作，并参加过当时由美国人主持的三峡工程初步设计。后见一卷卷图纸归档保存，当局毫无实施之意，他又于1944年重返教育岗位。先在中央大学执教，抗战胜利后转到上海交通大学任教，并曾每周往返于沪宁线上，到中央大学兼课。在长期的教学实践中，他的教学水平不断提高，讲授艺术不断丰富。当年凡听过他讲课的学生，无不为他的高质量讲课所吸引、所折服。
1944—1946年任中央大学教授。
1946—1952年任交通大学教授，1948年起兼任水利系主任。
1952年，成立了华东水利学院。徐芝纶愉快地服从组织调动，来到南京市参加创建新中国第一所水利院校的工作。他先是任教授兼任工程力学教研室主任，1954年起兼任教务长，1956年起兼任副院长，直至1983年。在承担行政工作的许多年中，他坚持不离教学第一线，早起晚睡地备课、写教材。他一共编著出版教材11种15册，翻译出版教材6种7册。《工程力学教程》、《弹性理论》、《弹性力学》(上、下册)在国内被广泛采用。第一版获1977—1981年度全国优秀科技图书奖，第二版获1987年全国优秀教材奖特等奖。他的英文著作《应用弹性力学》也于1992年由印度威利东方出版公司出版。从1978年起，他还担任全国高校工科力学教材编审委员会副主任委员，为高校的力学教材建设做出了很大贡献。
全国解放后，党和政府根据水利事业发展的迫切需要，于1952年成立了华东水利学院。徐芝纶愉快地服从组织调动，来到南京市清凉山麓参加创建新中国第一所水利院校的工作。他先是兼任工程力学教研室主任，1954年起兼任教务长，1956年起兼任副院长，直至1983年。在承担行政工作的许多年中，他坚持不离开教学第一线，早起晚睡地备课、写教材。他几乎每学期都要讲课，1959年后还指导研究生。他一直铭记着中华人民共和国建立之初，陈毅同志讲过的话：在不太长的时间里写出自己的书籍，做到中国人用中国的教材讲课给中国人听。为了实现陈毅同志的要求，他长期坚持不懈投身于教材建设。至今，他一共编著出版教材11种15册，翻译出版教材6种7册，其中《弹性力学》（上、下册）第一版获1977—1981年度全国优秀科技图书奖，第二版获1987年全国优秀教材特等奖。他的英文著作《应用弹性力学》也于1991年由印度威利东方出版公司出版。
1960年8月，徐芝纶被推选为先进教育工作者，出席了在北京召开的“全国英模大会”，受到党和国家领导人的亲切接见，并被授予“全国教育和文化、卫生、体育、新闻方面社会主义建设先进工作者”荣誉称号。
1974年出版了中国第一部有限单元法专著《弹性力学问题的有限单元法》。这部著作是国内最早论述有限单元法的专著。在这部专著中，包含了在有限单元方面的科研成果，如关于等参数单元的分析，关于稳定与不稳定温度场的计算方法，关于地基上基础梁、基础板的计算方法等。由于这本书是根据广大工程技术人员实际情况，从比较简单的结构力学原理出发，所写内容丰富，重点突出，条理清楚，对有限单元中较为复杂的内容采取难点分解，逐步展开，因此便于理解，容易掌握，并附有计算程序，受到广大科技人员和高等院校师生的欢迎。
从1978年起，他还担任全国高校工科力学教材编审委员会副主任委员，为新时期的力学教材建设作出了很大贡献。
徐芝纶是中国科学院技术科学部委员，博士生导师，并先后当选为第三届全国人民代表大会代表，第五、第六、第七届全国政协委员，中国力学学会第一、第二届理事，江苏省力学学会第一届副事长和第二、第三届理事长，以及第四届名誉理事长。1981年，70岁高龄的徐芝纶加入了中国共产党，实现了他多年来的夙愿。
