建国后，焦玉山在军事领域积累了丰富的经验，他的职业生涯始于广东省公安系统，曾任副处长和处长，后晋升为省公安总队副政委，以及守备10师师长和佛山军分区司令员。他的专业背景得到了提升，1962年，他在高等军事学院基本系完成了学业，之后担任47军副军长，随后转战广西军区，任副司令员，进一步担任广州军区副参谋长，期间参与了重要的军事行动。
在军事成就上，焦玉山在1964年晋升为少将，他的英勇表现得到了国家的崇高认可，荣获了二级八一勋章、三级独立自由勋章、二级解放勋章以及一级红星功勋荣誉章，这些都是他杰出军事才能的见证。
然而，他的生命在1990年画上了句号，但他的贡献和精神永存。他的骨灰被安葬在塔山，成为了后人缅怀和敬仰的纪念之地。他的生平和贡献，无论在军事职务上，还是在荣誉勋章的累积上，都充分体现了他对国家和人民的忠诚与付出。
焦玉山（1915—1990）安徽省阜阳县人，1915年出生于贫农家庭。年幼时给亲戚家放牛，1931年淮河特大水灾，焦玉山离家逃荒到固始，遇到红军，坚决要求参军，连长看他个子矮，年龄小，不肯收，政委詹才芳把他留在连部当了勤务兵。