张光伟念小学时，在进步教师温可久等人的教育下，受到了革命思想的影响。1942年在开县中学读初中时，对国民党反动派消极抗日、横征暴敛及学校的奴化教育，极为不满，曾参与反对校长李仕毅贪污学生伙食费的斗争。

1947年12月，由温可久介绍，加入中国共产党，并负责联络工作。中共临江支部建立后，党的活动更加深入广泛。张发挥音乐才能，在学生中大量教唱进步歌曲，如《蒋介石是他妈个王蟋蟀》、《鬼国春秋》、《要活命的跟上来》、《朱大嫂送鸡蛋》等，在临江风行一时，影响很大。

张还创办了《民主风》周刊，宣传当时的斗争形势，讲述革命道理，激发广大群众的革命热情。