1937年底，八路军115师在晋察冀建立了第一个根据地后，父亲聂荣臻一直琢磨怎样尽快地向冀中和冀东平原地带扩展。1937年10月，东北军第53军第691团团长、中共党员吕正操率部进入冀中地区后，举行抗日誓师大会，改称人民自卫军。不久，父亲派人携带密码到达冀中，与吕正操取得联系，要他们努力发动群众，积极开展抗日游击战争。不久，根据父亲的指示，这支队伍开往平汉路以西整训，父亲在阜平与吕正操见了面。
吕正操后来回忆说，我的父亲给他的第一印象是军容严整，正正规规，显得很严肃，但是对同志却很亲切，使人感觉见到的是一位忠厚长者。他很快把父亲看做自己的师长，有事就向他请示。吕正操又说：“对聂司令的道德风尚我一直是很敬佩的，因为从他身上反映了共产党的领导作风，所以我敬佩他，感谢他。”
在冀中，还涌现出一支党领导的回民抗日武装，就是后来很有名的冀中军区回民教导总队，也称“回民支队”，马本斋和他的母亲白文冠的故事曾经感动过几代中国人。父亲对“回民支队”的创建和壮大，付出了心血。
不久，在父亲的运筹下，又相继开辟了冀东、平西、平北根据地。北岳、冀中、冀东、平西、平北根据地的建成，使晋察冀抗日根据地成为华北最大的根据地。
雁翎队、地道战、地雷战，也是晋察冀的亮点之一。尤其是地道战，是坚持平原游击战争的可靠保障，是“向敌后之敌后挺进”的有力支撑，是晋察冀平原军民对敌斗争的独创，影响巨大。
参加洛川会议的时候，父亲就特别注意到，毛主席一直强调，要充分发动群众，广泛建立抗日民族统一战线，不断壮大我们的力量。父亲说，他意识到：“那个时候，毛泽东同志已经想到了更长远的目标，打败了日本帝国主义以后，我们还要建立新民主主义的新中国。只有争取了群众，扩大了武装力量，才能取得抗日战争的胜利，并为革命的深入发展奠定坚实的基础。”
“五台分家”，留给父亲的是3000人，司令部机关人手更少，大家开玩笑说：“要问司令部有多少人，一盆菜就够吃了，一条炕就够睡了。”
父亲做梦都想着自己能够“撒豆成兵”，把这3000人变成3万人，30万人。他对大家说：“没有武装，一切都谈不上。现在我们只有用滚雪球的办法来发展。”
后来形势的发展出乎很多人的预料，晋察冀根据地的各项建设突飞猛进，武装力量的建设更是形势喜人。很快经八路军总部批准，他们成立了4个军分区，每个分区下辖3个团，另外还有数量众多的游击支队。
在晋察冀，有不少带有地域色彩的部队名称，如“阜平营”、“回民支队”“灵寿营”“平山团”等等。一看名字就知道这些部队的成分。
父亲曾给边区的部队起过这样一个名字，叫做“子弟兵”。父亲觉得这是一个很好的称呼，军区创办的《抗敌三日刊》后来人们习惯称之为《子弟兵报》。这样称呼，就把部队担负的任务和群众的切身利益紧密结合在一起了，战士们保卫家乡，就是保卫边区，就是保卫祖国。
著名民主人士李公朴先生来晋察冀考察之后，撰写了《华北敌后——晋察冀》一书，书中热情地称颂道：“子弟兵是老百姓的儿子，坚决打鬼子的抗日部队的兄弟，是在晋察冀生了根儿的抗日军。”
后来，“人民子弟兵”这五个金光闪闪的大字，成为中国人民解放军的代名词，响遍了中华大地，一直沿用至今。
收编杂色武装，也是晋察冀武装力量发展的一个方面。父亲后来回忆说：“我们创建根据地之初，大家常用这样一句话形容杂色武装之多之广：‘司令遍天下，主任赛牛毛’。几个人，几条枪聚在一起，就可以自称司令。特别是河北省杂色武装很多，仅北平到保定的铁路两侧，就有十几股较大的杂牌军队。我们不是八路军吗?他们也自称是什么‘七路军’、‘九路军’、‘十路军’，招牌比你还大。”
到1939年底晋察冀的人民武装，真的就像父亲预料的那样，滚雪球一般，成倍放大。
到1940年，军区主力部队和地方武装已发展到20多万人，其中主力部队有31个团，近10万人，由初建时的4个军分区，发展到17个军分区;晋察冀根据地发展到80个县，20多万平方公里，人口1200万。
到抗日战争胜利时，晋察冀军区的主力部队发展到32万余人，民兵发展到90余万人;先后调往其他战略区32个团和25个架子团。主力部队从3000人变成30多万人，扩大了100倍。
1938年6月，加拿大共产党员白求恩来晋察冀之前，在延安毛泽东专门同他谈了话。毛泽东说：“中国有一部很著名的古典小说，叫做《水浒传》。《水浒传》写了鲁智深大闹五台山的故事，五台山就在晋察冀。”
毛泽东接着风趣地说：“五台山，前有鲁智深，今有聂荣臻。聂荣臻就是新的鲁智深。”
