刘伯坚投身革命所走的道路，与周恩来、赵世炎等党的第一代先驱者们相似，即由中国走向世界寻求真理，由追求民主主义转入信仰共产主义;他们在欧洲学到了革命理论，又回来拯救苦难的祖国，并不惜为此献身。
在中国革命史册上，刘伯坚的突出贡献便在于奠定了党在西北军中的影响。这支旧军队在冯玉祥的带领下，有着相对比较朴实的作风，官兵也大都是较少带兵痞恶习的穷苦农家出身，但他们毕竟是从北洋军阀部队中分化出来的。刘伯坚利用西北军中的有利条件，把革命的思想注入官兵中间，同时用自身的模范作用影响他们，因而才有点石成金、枯木逢春的奇效。
刘伯坚在西北军虽然只待了九个月就被“礼送出境”，但共产党由此积累了改造旧军队的重要经验。对西北军来说，共产党的良好影响此后长存了二十多年——在后来一系列重大历史关头，西北军部队连续发起过宁都暴动、察绥抗日同盟军、西安事变，直至淮海战役开始时西北军最后一支余部还在张克侠、何基沣率领下起义。
蒋介石后来恼恨地抱怨说吃尽了西北军的亏，其根源恰恰在于共产党的影响深入这支队伍，而其中凝结着刘伯坚的极大心血。
西北军官兵反映：“听过刘部长一次演讲，当得了三个月的饷”
1926年9月，在接受了中共中央、共产国际交派的改造西北军的任务后，刘伯坚陪冯玉祥穿过外蒙古荒原，进入绥远(如今在内蒙古西部)。
当地虽然有十几万西北军，内部却很混乱。士兵们军衣破烂，面有饥色，对政治概念一片漠然。为了振奋涣散的军心，刘伯坚到各个军建立了政治工作机构，并办各种训练班，每天工作都在18个小时以上。这时，中共中央派遣刘志丹、安子文等二百多名干部到西北军中来，他们都在刘伯坚的统一安排下，分配到各部队，担任政治工作干部。
这期间，刘伯坚表现出的豪迈气概和忘我的工作精神，使不少高级军官感到钦佩，杨虎城、吉鸿昌、邓宝珊、赵博生、董振堂等都与他交上了朋友。日后，他们有的成为党的重要统战关系，有的还起义加入了共产党。
刘伯坚身为新建的政治部负责人，职务超过军长，却在一路上同士兵和下级军官一样行军，经常同大家谈心。
这些在旧军阀队伍中长期生活的人都说：“‘刘部长’真是没有一点架子，从来没见过这样的大官。”刘伯坚的演讲能够道出这些苦难深重的士兵的心里话，因此大家又纷纷反映说：“听过刘部长一次演讲，当得了三个月的饷。”由于西北军官兵都知道他是共产党员，由此感到共产党的作风就是好。
