杜牧在《李贺歌诗集叙》中，高度评价李贺的创作，特别是其作品《还自会稽歌》。他认为李贺能深入挖掘历史往事，以此表达对古今未被充分阐述的感慨。比如《金铜仙人辞汉歌》和《补梁庾肩吾宫体谣》（即《还自会稽歌》），李贺在这首诗中，力求描绘出深沉的情感和独特的艺术风格，远离传统诗歌的常规路径。
《还自会稽歌》的诗前小序揭示了创作背景，庾肩吾因难离会稽而感到悲伤，诗中首两句描绘了荒凉的宫廷景象，椒粉变黄，萤火虫纷飞，象征着国势的衰败。刘辰翁指出，这首诗是对梁亡之痛的深刻反映。接下来，诗人通过回忆东宫生活，表达了对昔日荣光的怀念，即使在梦中，也不忘太子的车驾。
诗的后半部分，李贺描述了庾肩吾的凄苦和老去，以及对君王和国家的忠诚。"吴霜"和"塘蒲"象征着岁月的流逝和衰老，他怀念过去，甘愿在困厄中坚守。全诗情感深沉，曾益评论道，虽不直接言悲，但悲意盎然，正如序言所言，是"补其悲"之作。
李贺的创作，特别是对庾肩吾的前事探寻，实际上是对时代背景的反映。他所处的时代，永贞革新震撼一时，革新者中有不少曾任太子官，却命运多舛。诗人借古抒今，通过隐晦的笔触，表达了对这些不幸遭遇的深深同情，形成了李贺诗歌中奇异而独特的艺术风格。
《还自会稽歌》是由唐代诗人李贺所作的一首怀古诗。作者借写梁代庾肩吾的前事，借古叹今，为那些曾任东宫官而后遭贬斥的人抒发自己内心的悲叹。