张居正用人，打破了君子与小人的界限。总结他用人的经验，最核心的一点就是重用循吏、慎用清流。循吏，就是脑子一根筋，只想把事情做好，把结果放在第一位，而不会有道德上的约束；清流则不同，总是把道德放在第一，说得多，办成的事儿却少。
有这么一个例子，就是对于海瑞的任用。中国的老百姓，几乎没有人不知道海瑞抬着棺材给嘉靖皇帝上书的事。即便在当世，海瑞就已经成了一个民间人物，清官形象的代言人。嘉靖皇帝看了海瑞的万言书，非常震怒。不过他没有处死海瑞，但也不放他，就关在大牢里不闻不问。嘉靖皇帝死了以后，徐阶把海瑞从监狱里放了出来。
鉴于海瑞的名声，徐阶决定予以重用。他让海瑞到江南，当了应天府的巡抚，管南京周围几个最富的州府。海瑞在那儿搞了两年，结果当地的赋税减了三分之二。大户人家都跑了，没有了税源。他自己倒是非常清廉，八抬大轿也不坐，骑驴子上班。这样，他班子里的其他领导很不满意，因为他是一把手，既然他骑驴子，那二把手岂敢坐轿？因此都想办法调走。富人都很怕他，穷人和富人打官司，不管谁有理，肯定是富人输。海瑞是一个非常理想化的人物，但他对行政管理的确缺乏经验。工作搞不上去，海瑞气得骂“满天下都是妇人”，愤而辞职。
张居正当了首辅之后，让每一个三品以上的大臣都向朝廷推荐人才，其中有不少人写信推荐海瑞。当时的吏部尚书杨博就这个问题还专门找了张居正，希望他起用海瑞，但张居正就是不用他。为什么呢？他觉得海瑞是一个很好的人，做人没有话说，道德、自律都很好。但好人不一定是好官。好官的标准是上让朝廷放心，下让苍生有福。海瑞做官有原则，但没器量；有操守，但缺乏灵活，因此有政德而无政绩。这一点，张居正看得很清楚。张居正不用他，还有一层原因：海瑞清名很高，如果起用，就得给他很高的职位，比他过去的职位还高，这才叫重用；如果比过去的职位低，那就证明张居正不尊重人才。话又说回来，如果你给他更高的职位，他依然坚持他的那一套搞法，岂不又要贻误一方？张居正想来想去，最后决定不用海瑞。
张居正有一同年叫汪伯昆，安徽人，和另一位同年王士祯一起成为当时诗坛两大领袖。汪伯昆在湖北当了几年巡抚，张居正当了首辅后，把他调到北京当兵部左侍郎，也就是国防部副部长。汪伯昆履任之后，张居正给他一个任务，巡视整个西北的军事设施，北京、蓟辽、陕西、山西这一带。汪伯昆的巡边之旅，第一站就是蓟辽。当时的蓟辽总兵是大名鼎鼎的戚继光。汪伯昆到了之后，首先不是听汇报，探讨军事问题，而是和当地的文人在一起吟诗作赋。张居正听到这个消息后有点不满。汪伯昆回到北京，给皇上写了一份奏章，汇报他视察边境军事的情况。字斟句酌，是一篇非常优美的散文。张居正看了奏章以后，批了八个字：“芝兰当道，不得不涂。”兰花芝草，都是最好的花草，但它长得不是地方，长在高速路上，路是走车的，不是花园。既然长错了地方，就得铲掉。你汪伯昆是优秀的诗人，就到诗歌协会去，国防部是搞军事的地方，不是你吟诗的地方。这样就把汪伯昆免了官。
戚继光从浙江调到蓟辽总兵的位子上，没多久就跑到内阁找张居正发牢骚，说蓟辽的兵没法带。其因是明代的兵役制。所有的兵都是世袭的，老子退下来儿子顶替，这叫本兵制。因为是世袭，铁饭碗，干好干坏一个样，所以本兵大都吊儿郎当，平时也不训练，打仗时就溃不成军。张居正深知本兵制的弊端，于是鼓励戚继光训练一支新军。所以说张居正的改革是从隆庆四年的兵部开始，从戚继光开始。当时他支持戚继光，从极为艰难的朝廷财政中挤出军费来，让戚继光从浙江招募五千人，训练新军。相对于本兵，这支部队叫客兵。也叫“浙兵”。就这样，戚继光在张居正的支持下，组建并训练出一支快速反应部队，能够胜任拱卫京师的任务，并给疲疲沓沓的本兵起到了示范作用。
这里面还有一个问题，就是军政首脑的关系处理，当时的总兵是部队一把手，他上面还有一个总督。总督既是地方行政长官，又领导总兵。过去只要总督和总兵产生矛盾，朝廷一定是撤换总兵，而不会换总督。张居正不一样，当戚继光这个总兵和总督产生矛盾以后，撤换的都是总督。而且每一个总督上任，张居正都会找他谈话，要他支持戚继光的工作。戚继光当了十三年的蓟辽总兵，蓟辽没有发生一次战争，蒙古人也没有一次进犯，这既是戚继光的功劳，也是张居正知人善任的功劳。
