中国的老百姓，几乎没有人不知道海瑞抬着棺材给嘉靖皇帝上书的事。在那时，海瑞就已经成了一个清官形象的代言人。
当嘉靖皇帝看了海瑞的万言书，非常震怒。不过他没有处死海瑞，但也不放过他，就关在大牢里不闻不问。嘉靖皇帝死了以后，徐玠把海瑞从监狱里放了出来。
鉴于海瑞的名声，徐玠决定予以重用。他让海瑞到江南，当了应天府的巡抚，管南京周围几个最富的州府。海瑞在那两年期间，“当地的赋税减了三分之二，大户人家都跑了，没有了税源。他自己倒是非常清廉，八抬大轿也不坐，骑驴子上班。
这样，他班子里的其他领导很不满意，因为他是一把手，既然他骑驴子，那二把手岂敢坐轿？因此都想办法调走。富人都很怕他，穷人和富人打官司，不管谁有理，肯定是富人输。
海瑞是一个非常理想化的人物，但他对行政管理的确缺乏经验。工作搞不上去，海瑞气得骂“满天下都是妇人”，愤而辞职。
张居正当了首辅之后，让每一个三品以上的大臣都向朝廷推荐人才，其中有不少人写信推荐海瑞。当时的吏部尚书杨博就这个问题还专门找了张居正，希望他起用海瑞，但张居正就是不用他。
为什么呢？
张居正觉得海瑞是一个很好的人，做人没说的，道德、自律都很好，但好人不一定是好官。好官的标准是上让朝廷放心，下让苍生有福。海瑞做官有原则，但没器量；有操守，但缺乏灵活，因此有政德而无政绩。这一点，张居正看得很清楚。
张居正不用他，还有一层原因：海瑞清名很高，如果起用，就得给他很高的职位，比他过去的职位还高，这才叫重用；如果比过去的职位低，那就证明张居正不尊重人才。话又说回来，如果你给他更高的职位，他依然坚持他的那一套做法，岂不又要贻误一方？张居正想来想去，最后决定不用海瑞。
张居正有一同年叫汪伯昆，安徽人，和另一位同年王士祯一起成为当时诗坛两大领袖。
汪伯昆在湖北当了几年巡抚，张居正当了首辅后，把他调到北京当兵部左侍郎，也就是现在的国防部副部长。汪伯昆履任之后，张居正给他一个任务，巡视整个西北的军事设施。汪伯昆的巡边之旅，第一站就是蓟辽。
当时的蓟辽总兵是大名鼎鼎的戚继光。汪伯昆到了之后，首先不是听汇报、探讨军事问题，而是和当地的文人在一起吟诗作赋。张居正听到这个消息后有点不满。汪伯昆回到北京，给皇上写了一份奏章，汇报他视察边境军事的情况，字斟句酌，是一篇非常优美的散文。
张居正看了奏章以后，批了八个字：“芝兰当道，不得不除。”兰花芝草，都是最好的花草，但它长得不是地方。既然长错了地方，就得铲掉。你汪伯昆是优秀的诗人，就到诗歌协会去，国防部是搞军事的地方，不是你吟诗的地方。就这样，他免了汪伯昆的官。
