1929年7月受命回到家乡开展革命活动，以开小店为掩护建立秘密联络站。不久出任小学校长，以教书作掩护建立秘密农会，组织“铁血团”，准备武装暴动。1931年春，原计划的武装暴动因敌军事先觉察，部分骨干受到辑捕被迫外出隐蔽，未能如期举行。聂祖唐因未暴露身份，留下领导武东地区的秘密工作。

1932年2月，红12军恢复武平苏区，重建中共武平县委和苏维埃政府，聂祖唐任县委组织部长兼武东区苏维埃主席，组建武东游击支队开辟武东新区。不久，武东地区各游击队编为福建省军区地方红军，聂祖唐任独立第二团团长，率部重创地方军阀钟绍葵。此后，聂祖唐任闽西工农红军独立第十师副师长，从红军军官学校毕业后任福建省军区第一作战分区政治委员兼政治部主任，率部转战闽粤地区，牵制了大量敌人，有力地支援了中央苏区第四、第五次反“围剿”作战。

1934年12月17日在武平北部小湘坑战斗中不幸中弹牺牲，年仅24岁。