据说，曾被朱元璋誉为“开国文臣之首”的宋濂喜欢在家和客人喝酒，检校（锦衣卫的前身）在旁窥伺。宋濂什么时候喝酒、和谁一起喝酒、甚至是喝的什么酒，朱元璋都了解得一清二楚。有一次，朱元璋故意问宋濂：“昨天喝酒了吗？客人都是谁？酒桌上摆的什么菜？”宋濂据实回答，朱元璋很满意：“诚然，卿不欺朕”。
检校们大多属于临时抽调，互相之间也没有统属关系，为了高效地向最高决策者提供信息，并且对官僚群体实施有效的监控，这支队伍的正规化、制度化、系统化逐渐被提上日程。
洪武十五年（1382）四月，朱元璋撤掉亲军中的都尉府和仪鸾司，改置锦衣卫。锦衣卫的职责有明暗两条，明的就是皇帝最贴身的卫队和仪仗队，穿飞鱼服、配绣春刀，随侍皇帝左右；暗的就是秘密侦缉调查，主要负责这一任务的是锦衣卫北镇抚司，这一机构可以不经过刑部、大理寺、都察院三大国家司法机关，直接根据皇帝的旨意，执行侦察、逮捕、关押、审理，等于独立于三法司之外的一套司法部门，权力达到登峰造极的地步。
锦衣卫的威力使朝中大臣为之胆寒，很多人如履薄冰、战战兢兢。传说有一次明朝的开国重臣宋濂（对，还是那个宋濂），秉性老实忠厚。有一天下朝回家，大概因为总是早起上朝，加上年纪大了，体力有些不支，过于劳累，就顺口赋诗一首：“四鼓咚咚起着衣，午门朝见尚嫌迟。何时遂得田园乐，睡到人间饭熟时。”第二天上朝，朱元璋一见宋濂便说：昨天做得好诗!可是我并没有嫌你迟呀，还是改成“忧”吧。吓得宋濂赶忙拜倒谢罪。
当朝宰相只不过在自己家中偶尔感叹一下，没想到第二天就传到了皇帝的耳朵里，可见锦衣卫势力之大。
