于泽霖是在1947年秋季在东北战场被俘的，当时他是国民党第105师少将师长。105师是原东北军的警卫部队，1932年，张学良把东北军第三、第四方面军的警卫部队和原张作霖的卫队团等扩充改编成的，张学良自任师长，下辖三个旅九个团，是东北军主力之一。1936年该师驻守陕北洛川，曾与红军达成和平协议，西安事变中，105师参与了临潼扣押蒋介石的行动，后被调到渭河一带阻击中央军的行动。在此期间于泽霖是否在105师中不得而知，但从他的简历（《中国国民党百年人物全书》）中看，历任东北军连长、营长，一直在东北军中任职，有可能一直在105师。
在此期间，1934年，于泽霖还被抽调到国民党中央军校洛阳分校军士教导总队任干部，这个教导总队是专门为东北军设立的，抽调的管理干部大部分为正规军校毕业，特别是东北讲武堂各期的学员比较多，而于泽霖正是从东北讲武堂第七期毕业的。
1936年11月，王铁汉就任105师师长，据王铁汉回忆，他接任105师时，该师下辖两个旅四个团，其中315旅629团团长就是于泽霖，1937年2月，国民政府以105师为基干扩编成第49军，该军由陕西调往河南。抗日战争全面爆发后，49军调往河北，1938年8月下旬与日军激战于津浦路沧县段，此役49军损失惨重，被迫南撤，又于同年10月参加淞沪会战。
49军是10月28日到达上海的，11月4日，49军105师开始在姚家宝地区抗击日军强渡，接连击退日军多次强渡。一直激战到11月9日，由于日军在杭州湾登陆，严重威胁到淞沪战场守军的侧后安全，105师这才向无锡撤退。淞沪会战，105师英勇抗敌，所辖625团团长阵亡，所部损失过半，按照当时的情况，于泽霖的629团的情况也不会太好。
淞沪会战后，49军于1938年9月参加了武汉会战，之后，调往江西，保卫南昌。于泽霖所率629团一直驻防在南昌以北修河南岸五谷岭一带，1939年3月南昌会战开始前，630团接防五谷岭，629团整休。南昌战役开始后，日军开始强渡修河，使用毒气弹进攻五谷岭，致使630团一营几乎全部牺牲，日军占领了五谷岭。此时，于泽霖接师部命令要求629团重新夺回五谷岭，于泽霖战前下达命令“完不成任务，军法从事”，与旅长卢广伟率629团于半夜强攻五谷岭，经过激战，夺回了五谷岭。不过由于周边阵地已经全部落入日寇之手，在凌晨日军的反扑和没有援军的情况之下，629团虽英勇抵抗，但仍无法坚持到最后，在付出巨大代价之后，撤离阵地。在后撤过程中，又被日军包围，虽最后突围与大部队会合，但损失惨重。有关修河战役，时任315旅旅长卢广伟曾写道：
【民国二十八年间，余任旅长时，率军抗敌于江西修水之南岸，右翼友军为敌所破，皆已后撤，余乃率部坚守阵地，与敌搏斗，艰苦支持达二十一日，余旅官兵三千余人，最后余存者不过十之一。其间所经战斗十八次，昼夜未曾休息者四次，两昼夜未进饮食者一次，一昼夜未进饮食者三次，一昼夜仅进食一餐者盖属常事。余之所以如此者，一以未奉后撤命令，不愿泛起守土以求自全；一则亦不忍以守土资敌，致丧我革命军人之荣誉，而贻国家民族之羞。】
可见战斗之惨烈，315旅下辖629、630两团，经过修河战役后，整个旅仅存三百余人。南昌失守后，国民政府问责，49军军长、105师师长均被查处降级，105师重新整编，629团改为315团，于泽霖仍任团长。部队在赣北经过半年的整顿、补充和训练之后，重新投入抗日的战斗中。
1939年9月，第一次长沙会战开始，49军亦投入战斗，于泽霖的315团是会战后期投入战斗的，参加了阻击日军回窜奉新的战役，在于泽霖的率领之下，315团完成了军部交给的任务，击退了敌军的进攻，完成了阻击任务。以后，49军还参加了上高会战和第二次、第三次长沙会战。在抗日战争期间，49军因参加多次战役，人员减员严重，部队因此也多次补充兵源和整编，但无论如何整编，105师一直留在该编制中，成为49军的基本保留部队。
于泽霖1945年1月任93军暂编第22师副师长，抗战胜利后随部赴东北接收，1946年10月任东北保安军93军暂编22师师长。而此时的49军，在抗日胜利后改编成为整编49师，内战期间参加了苏中等战役后，于1947年8月调到东北，驻守锦州地区，9月，恢复了49军番号，或许由于105师和于泽霖有太多的关联，于泽霖调回了105师任少将师长。不过，上任一个月，在中共军队发动的1947年秋冬攻势中105师被全部歼灭，于泽霖被俘。（另有一资料上说于泽霖于1946年10月接任105师师长）
于泽霖的军旅生涯兴于105师，也终于105师。
于泽霖的战俘生涯一共十五年，被关押在抚顺战犯所，1963年10月刑满释放。于泽霖在战犯管理所里的生活状况，没有专门的资料讲述，只有其他人的零星讲述，比如关梦龄（军统上校）回忆中曾提到于泽霖向他学习俄语，尚传道的《抚顺改造回忆录》中提到，“例如一九五六年在我这个学习组的于泽霖学得一手好锻工，一九六三年刑满释放后，分配到江西一个工厂当了五级锻工。”
于泽霖被俘后还有一事也是挺有意思，据《长春文史资料》（十六辑）上提到，于泽霖1947年7月在锦州驻防时认识了一位在长春上大学回家探亲的女学生，两人订下终身，女学生回长春继续学习，不料想于泽霖被俘。在关押期间于泽霖认识了一个国民党团长关锐玺，1948年春，关被释放，于泽霖就拜托关团长去长春看望女友，并捎上一枚金戒指给这位女大学生。关团长不负朋友托付，多次找这位女学生，讲述了于泽霖的情况，转交了金戒指，但女大学生考虑到实际情况，婉拒了于泽霖的婚约，并退回了金戒指。而关团长找这位女大学生的事情已引起了国民党保密局的注意，为此把于泽霖的这位大学生女友关押了两个月。
另外还有一事，新华社老播音员齐越的回忆录中，讲述在1948年的广播内容中有“于泽霖谈话（国民党军官）”，估计是被俘之后发表的反蒋谈话。
于泽霖是辽宁人，刑满释放后不知为何选择去了江西，或许抗战时期他所率领的629团或315团主要就是在江西抗日的，很多部下牺牲于此，割舍不下，才主动到江西的，也或者根本就是政府分配他去的，他别无选择。到了江西后，被分配到抚州金溪县许湾镇农机厂，据1975年江西省公安局给江西省委的《关于特赦、刑满释放战犯的情况报告》中所说，于泽霖的表现属于较差一类的：
【个别表现较差。主要是：思想不稳定，改造有反复，对安置待遇不满意，对政府有抵触情绪。如于泽霖，思想不稳定，改造有反复，时好时坏，初来时为了表现自己，对安置待遇表示满意，每月补助五元生活费，要求取消。但在文化大革命期间表现不好，要求参加本单位群众、造反组织，负责人不同意，于竟质问说：我是群众，为什么不能参加？并到我公安派出所询问，当派出所的同志问于是不是群众时，他竟大为不满的说：我不是群众难道不要革命……。还有职工李有根到于家玩时，问于住在这里呀？他回答说：我是一贫二苦，流露不满情绪。在此期间还常闹工资待遇，说什么：我又不是五类分子，为什么工资总是这么多，不调整提高呢？73年多次写申请要求调换工种和增加工资。未及时解决，大为不满。后根据他的身体情况由打铁调到精工车间做零工，工资由十五元增加到二十五元，从此表现较好。批林批孔运动中表现一般，很少发言。】
以上材料显示，于泽霖在江西生活的并不是很好，一个抗日中英勇作战的团长，东北军中的一员猛将，竟为增加工资从十五元到二十五元而闹情绪，落到如此地步，也让人唏嘘。
文革后，于泽霖是回到东北沈阳老家还是留着江西金溪，不得而知，但从搜集到的资料来看，于泽霖在八十年代写了不少回忆文章，均刊登在各级文史资料上，写有：《第105师修河战役概况》（江西文史资料总十六辑，1985年）；《截击窜奉新之敌》（写于1985年元月）、《第49军主力在锦西杨家仗子被歼经过》、《蒋介石消灭东北军的一套手法》等文。
于泽霖的一生经历大体如上所述，他的军旅生涯几乎一直与东北军105师相伴，他是东北军中的一员猛将，在抗日战争中率领部下为国英勇抗击了侵略者。而三十年代入关的105师的数万名东北子弟，在1947年105师再次回到东北时，经过八年抗战，估计已经所剩无几，不知道时任105师的于泽霖会不会感慨，会不会为这些牺牲在关内的东北子弟兵感到骄傲和惋惜！东北军中曾经的王牌主力没有被侵略者所消灭，却全师葬送在内战之中。
