王冠军的经历颇具传奇色彩，他曾有过两次入狱的经历。

1938年2月，八路军第120师359旅挺进河北，在冀中建立了地方政权和抗日游击队，王冠军参加了游击队。因表现积极，1941年8月，他被选送到抗日军政大学二分校3团学习。1942年5月，侵华日军开始对冀中抗日根据地实行拉网式“扫荡”，王冠军所在的抗大二分校3团全体教职学员奉命转移，5月9日行至石德铁路时与日军遭遇，部队被冲散。60余名学员在营连干部的带领下，与敌人激战5小时，因寡不敌众，除王冠军1人被俘外，其余大部牺牲。

王冠军被俘后，被关押在南京浦口日军监狱中，经受了各种严刑拷打逼供，但他始终坚贞不屈，丝毫未泄露党的机密。他还在狱中进行宣传鼓动工作，领导建立了党支部。8月17日，他策划600余人暴动，成功越狱。

1943年1月，王冠军在新四军第2师领导的游击队任指导员，在一次战斗中，他再次被俘。审讯时，他宁死不屈，门牙被打掉了两颗，后经地下党组织营救获得保释。

1944年11月，王冠军进淮南党校学习，1945年7月毕业后，被任命为淮南区委副书记兼副区长，继续领导当地人民开展抗日斗争。

抗战胜利后，王冠军随部队挺进东北，先后任嫩江军区第1大队政委、嫩江军区第37团2营教导员、辽东军区司令部一科副科长。1948年11月，王冠军调任第四野战军炮兵第4团政治处副主任，参加平津战役。1949年3月，炮兵第4团改编为炮兵第2师29团，王冠军任政治处主任。