1828年的美国总统选举中，约翰·卡尔霍恩被选为安德鲁·杰克逊的副总统，再次担任该职。然而，南北双方的分歧导致了他与总统的矛盾，特别是围绕着无效论的争议。
无效论主张，州有权宣布联邦法律无效，这是基于1798年托马斯·杰弗逊和詹姆斯·麦迪逊提出的肯塔基和弗吉尼亚决议，他们借此否决了《外国人与煽动法案》。然而，杰克逊支持强有力的联邦政府，对无效论持反对态度。1832年，南卡罗来纳州因认为联邦税收对南方农业不利，宣布其违宪，引发了无效危机。
为应对这一危机，国会通过武力法案授权总统动用军事力量执行联邦法律。杰克逊采取行动，派海军舰只至查尔斯顿港，但南卡罗来纳州仍宣布武力法案无效。最终，亨利·克莱提出折衷方案，修改了税收法律，危机得以平息。在这场冲突中，杰克逊在一次宴会上强调联邦的必要性，他说：“我们的联邦必须保存。”卡尔霍恩则回应：“我们珍视自由，其次才是联邦。”两人的立场已无法调和。1832年，卡尔霍恩选择竞选参议员，不再愿意继续担任副总统。
这场州与联邦的冲突延续了数十年，直到1860年林肯当选总统，南方提出对北方禁止奴隶制的法律无效，最终以南北战争的形式爆发。此时，卡尔霍恩已去世十年。
约翰·卡德威尔·卡尔霍恩（John Caldwell Calhoun，1782年3月18日－1850年3月31日），美国政治家，南卡罗来纳州人。他是19世纪前半叶最著名的美国政治家之一。曾任参议员、战争部长、国务卿等职。1825年到1832年连续任约翰·昆西·亚当斯和安德鲁·杰克逊手下的副总统。他是奴隶制的支持者，经常发表强烈措辞反对北方干涉南方事务的言论，还主张州有权利废止联邦立法。历史学家对卡尔霍恩的评价褒贬不一，但更多的历史学家则将他视为美国历史上最伟大的政治家之一。