1938年10月30日，应城县被日军占领，国民党县政府一枪未放就仓惶躲进深山。张谦光对国民党不抵抗政策彻底失望，决心跟着共产党抗日救亡。很快，他就向陶铸递交了入党申请书。12月，刚过而立之年的张谦光被批准加入了中国共产党。1941年3月，中共应城县委召开第一次党员代表大会，会上张谦光当选为县委书记，后又兼任县长职务。从此以后的岁月，正是抗日战争最艰苦的阶段。日军对抗日根据地的“扫荡”日益频繁，国民党顽固派与日伪勾结对抗日军民的夹击也愈演愈烈。

张谦光有一个幸福的家庭，妻子梅雪馥是他的同学，两人感情甚笃，他们有一个儿子，两个女儿。为了革命，他两次把他们送到河南乡下。1938年秋，日军大举入侵，武汉告急，国民党军队节节告退。国家兴亡，匹夫有责。为了解除后顾之忧，表明自己抗日的决心，他亲自把爱人和3个孩子安置到河南乡下。临别时，他对妻子说：

“哪个人不爱自己的家啊，现在国难当头，有家也爱不成了。共产党人为了抗日救国，早就抛家了。我们也要分一下工：夫报国，妻抚家，合起来还是为了国家。”

当时，他的大孩子才5岁，小的只有几个月。一别就是8年，张谦光没回一次家，夫妻没见过一次面，女儿没见过一次爹。

1946年夏，时任襄北地委书记的张谦光终于迎来了8年来和妻子的第一次团聚，但由于国民党30万大军随时准备进攻中原解放区，内战迫在眉捷，张谦光不得不把才相聚一个月的妻子儿女送走。在依依惜别的时刻，他拉着妻子的手说：

“我参加革命这么多年，一直不能照顾你和孩子们。你作为妻子、母亲，堪称劳苦功高而又任劳任怨。现在我们又要分别了，我拿不出什么像样的东西给你和孩子。”

说着，他掏出一块用旧的手帕说，“这块手帕我用了多年，送给你作个纪念吧”。

他又抽出一支用旧了的新民牌钢笔说：“这送给孩子，让他们好好学习，将来成为有用之才。”

妻子的手不禁颤抖着，当她接过丈夫留赠的礼物时，已泣不成声了。

张谦光沉吟了片刻，又深情地说：“雪馥，你知道革命斗争十分艰苦，我不可能也不应该有钱留给孩子们。现在，我就给他们每人留个名字吧——大女儿叫‘师民’，要她永远拜人民为师，向人民学习；儿子叫‘从民’，要他永远服从人民利益，听从人民指挥；小女儿叫‘依民’，要她永远依靠人民，与人民打成一片。”

妻子默默地点点头领着孩子上路了。作为丈夫、父亲的张谦光，面对远去的妻子儿女的背影，一丝惜别、愧疚感油然而生。此时，蒋介石集团的战车已向解放区涌来，他没有犹豫，轻装简从，斗志昂扬地奔向新的战场。他永远也不会知道：他的妻子儿女在途中被国民党反动派抓进了监狱，唯一的儿子从民不幸染上了伤寒，惨死狱中。

1946年6月26日，蒋介石悍然撕毁《停战协定》，调集30万大军，杀气腾腾地围攻中原解放区。7月，根据中原局指示，张谦光随江汉军区进行南路突围。8月，中共鄂西北区委会和鄂西北军区成立。张谦光被任命为鄂西北区第一地委书记兼第一军分区政委。

1947年2月，敌军加紧追击，鄂西北形势严重恶化。张谦光率部到房县、兴山一带，昼夜不息地与敌周旋。在一次战斗中，歼灭鄂西保安团两个连。接着，乘胜挺进，向川边发展，牵制正面敌人兵力。后又根据军区命令折回。当他们转到兴山县大小螺溪的时候，与国民党六十六军2个团和七十五军1个团遭遇，激战三天三夜。他带领一个警卫班掩护主力冲出重围，自己却身中敌人两弹，受伤很重，所带弹药也消耗殆尽。最后，敌人逼近阵地，他没有退路，拖着受伤的身体，从容毁掉电台、武器，将零件丢下深山，和警卫员一起毅然跳下悬崖，壮烈牺牲。