杨俊衡是吉林省人， 1910年生。因生活所迫投奔了东北军。由于他勤学苦练，机智能干，很快被提拔为少尉排长。在团里的军官中数他年龄最小，大家都亲切地叫他“小老邦子。”
九·一八事变的时候，东北军六七六团在黑龙江省境内驻防。第二年2月，日本侵略军占领了哈尔滨。这时，团长王树堂投降了日寇，年轻的排长杨俊衡十分愤懑。他在士兵中积极鼓动起义，反抗侵略者。他的行动得到苏剑飞营长的支持。于是杨俊衡与苏营长一起，举起抗日救国大旗，率队离开六七六团转战于珠河、五常一带。不久，队伍开到舒兰县境内，与原东北军第四十九团团长田林领导的东北民众抗日义勇救国军第二路军合并。1933年田林战死，杨俊衡和苏营长重整队伍，又转战在柳河一带。这时，杨靖宇将军领导的中国工农红军第三十二军南满游击队正在这里活动。杨俊衡他们率部参加了游击队， 1934年上半年，部队改编为东北革命军南满第一游击大队，杨俊衡任第一中队长，不久，他加入了中国共产党。
参加革命队伍不久，副大队长交给他一个任务，去清源县搞机枪。杨俊衡喜欢动脑筋，他率领队伍出发，一路上琢磨着怎么才能搞到枪。他从蒙江县（今靖宇县）的那尔轰出发，走到辉南县的四岔已是中午了。队伍决定在这里吃午饭。这里是个山沟仅有两户人家，房后不远有一片树林子。杨俊衡看了地形，布置了岗哨。但是他们刚刚端碗吃饭，房子外边就传来了急促的脚步声，紧接着有人向屋内喊话，原来房子已被“讨伐”队包围了。他一面机警地回答敌人的问话，一面向战士们打手势，只见杨俊衡已经把手榴弹拿在手中了，并暗示大家作好战斗准备。随着杨俊衡一声令下，多颗手榴弹一齐投向敌人，炸得敌人鬼哭狼嚎，血肉横飞。接着战士们从门口、窗口一齐冲了出去。敌人见势不妙拔腿就跑。这次战斗，打死五六个伪军，活捉三人。战士们扛着缴获的枪支弹药继续向清源县进发。
在清源县，杨俊衡找到有机枪的土匪队伍。当时他们的头子不在，队伍临时由一个叫老张头的人带领。杨和张原来都是义勇救国军里的熟人。见面后，杨俊衡向他们宣传南满游击大队抗战的英勇事迹，申明大义，规劝大家弃暗投明，参加抗日队伍。由于他讲的话句句在理，打动了人心，除一小部分放下武器回家外，剩下的三十多人都随杨俊衡到抗日游击根据地来了。就这样，杨俊衡胜利地完成了“搞机枪”的任务。不久，他升任第一游击大队长。1935年，游击大队改编为东北人民革命军第一军第二教导团，杨俊衡任团长。第二年，抗联队伍迅速壮大，一军增编第三师，杨俊衡被任命为三师参谋长。
工农红军长征后，东北的党组织和中央失去了直接联系。为了打通与党中央的联系，第三师奉命西征。
1936年11月下旬，杨俊衡率领三百多名骑兵从辽宁省兴京县出发，迅速冲破了日伪军的封锁包围，克服了重重困难，仅用一个月的时间，就过清源、越铁岭，横跨南满铁路，到达辽河岸边。
由于当年冬季气候较暖和，辽河尚末封冻，一时又找不到渡河的船只，队伍被阻于辽河东岸时，后面敌人的追兵又至，在敌我力量对比悬殊的情况下，杨俊衡决定带队绕道返回原地。
杨靖宇将军率领的抗日联军第一军两次西征，都未能达到目的地。但是，却扩大了抗日游击区域，扩大了抗日联军的影响，鼓舞了人民抗战的决心。在西征途中，杨俊衡作战英勇，深受战士们的爱戴，杨俊衡与杨靖宇将军相貌相似，体态相同，又都姓杨，因此，敌人误把他当成了杨司令（杨靖宇）。当地老百姓也流传起“杨司令率队西征”不少故事。1937年春，杨俊衡被调到军部，协助杨靖宇司令处理军机事宜，成为杨司令的得力助手。
“七七”事变后，杨靖宇率部队，活动在吉林省集安县一带。这里老岭山脉自东北向西南横贯，到处崇山峻岭，敌人沿着山势修筑公路，“讨伐队”就常通过这条公路来调遣。杨司令的队伍在这一带，到处袭击敌人。敌人一听到杨司令的队伍来了，就吓得丧魂落魄，他们每一次“讨伐”，都要暗中祈天保佑，千万别碰上杨司令的队伍。但是，杨司令的队伍却无处不在，敌人处处挨打，敌人不得不调兵遣将，把驻在临江县的骑兵旅调来。该旅第三十二团到长岗一带“讨伐”，杨司令决定避其锋芒，率领部队向金川地区转移。部队刚翻过山岭来到长岗公路上，只见老百姓携儿带女，牵着牲口扛着东西，也跟着部队爬上岗来，要跟部队一快转移。为了保护人民群众，打击敌人的嚣张气焰，杨司令决定在长岗地带打个伏击战。
杨司令在西北的山头上设立临时指挥所，命令杨俊衡指挥部队占领东南山头。东南山头是长岗唯一的制高点，可以堵住敌人的后路。午后4点多钟，敌人进入我军埋伏圈之后，“叭！叭！”两声枪响，敌人顿时乱作一团，晕头转向，有的往回溜，有的往山上跑，有的钻进我军埋伏的草丛中。在一片杀声中，我军士兵们端着刺刀冲向敌群，只几十分钟敌人已溃不成军。这次战斗消灭敌人三百多，缴获机枪七挺、步枪一百多支。
战斗即将结束，突然东南面山顶上响起了激烈的枪声，原来是一小队敌人占据了制高点。敌人借有利地势拼命顽抗，杨俊衡率队伍冲上山去。这时夜幕已经降临，争夺制高点的战斗格外激烈。在冲锋中，杨俊衡不幸中弹牺牲。
