可以，需要将缴费凭证退还给原社保单位，时间1~2周，但是具体要看各省市规定。
法律依据：《城镇企业职工基本养老保险关系转移接续暂行办法》第三条 参保人员跨省流动就业的，由原参保所在地社会保险经办机构（以下简称社保经办机构）开具参保缴费凭证，其基本养老保险关系应随同转移到新参保地。参保人员达到基本养老保险待遇领取条件的，其在各地的参保缴费年限合并计算，个人账户储存额（含本息，下同）累计计算；未达到待遇领取年龄前，不得终止基本养老保险关系并办理退保手续；其中出国定居和到香港、澳门、台湾地区定居的，按国家有关规定执行。
第十一条 各地已制定的跨省基本养老保险关系转移接续相关政策与本办法规定不符的，以本办法规定为准。在省、自治区、直辖市内的基本养老保险关系转移接续办法，由各省级人民政府参照本办法制定，并报人力资源社会保障部备案。