首先，锦衣卫在明朝以前是不存在的。根据《实录》的记载，朱元璋是在洪武十五年（1382）四月把仪鸾司改为了锦衣卫。那么锦衣卫的前身仪鸾司原来是做什么的？仪鸾司最早出现在五代时期，后晋的皇帝石重贵被废黜，他被强行送到黄龙府安置，其中就有“仪鸾司三人”跟着。等到了宋朝的时候，仪鸾司隶属于卫尉寺，当时仪鸾司的主要职责“守官仪”，类似于礼仪职能。朱元璋实际上出于稳定的考虑，官职上沿用了前朝。
这里就不得不说一下元朝的特殊性了。皇帝和诸王都有自己的直属亲军，朱元璋也继承了这一制度。一直以来，朱元璋手中都有一直可以随时调动的战略预备队。1364年，朱元璋一次性设置了17个亲军卫，实力远高于外卫，可见他对亲军部队非常重视。当然了，这个时候朱元璋的仪鸾司虽然有保卫职责，但是主要是仪仗队，属于文官系统。
洪武十三年（1380）的时候，胡惟庸案爆发。这件事情对朱元璋影响很大，因此朱元璋对当时的明朝制度进行了调整，比如废除了宰相制度，大都督一分为五等等。最为关键的时候，朱元璋又重新获得了一支直属于自己的禁卫部队，原属于大都督府的亲军自然要变动，于是便有了锦衣卫。
锦衣卫是一个非常复杂的禁卫部门，但是人们最熟悉的还是他对百官的监视，类似于特务组织。为什么会这样呢？因为朱元璋起兵初期，必须保持高度的警惕，因此他对情报工作非常重视。当然，他这样做绝对是有道理，毕竟那个时候的将领反复无常。
很多开国之君都会吸取之前王朝灭亡的教训，朱元璋也不例外。无论是宋朝，还是元朝，之所以灭亡，有一个重要的原因就是管理过于松懈了。元朝是自身管理水平有限，而宋朝则是吸取了唐朝灭亡和五代十国之乱，那个时候军人地位高，因此宋朝一直重文抑武，社会氛围也较为宽松。加上朱元璋自身的贫苦出身，所以朱元璋时期整体而言对老百姓很好，而官员非常不信任，甚至通过各种特殊手段压制百官。当然了，朱元璋是开国皇帝，必须解决功臣集团。宋朝赵匡胤可以杯酒释兵权，但是朱元璋也这样做过，无奈和他一起打天下的人只有汤和买账，以至于朱元璋不得不不断的保持权力平衡，不断扶持一拨人打击另一波人。为什么会这样呢？因为任何人有了权力就会膨胀，所以朱元璋不断的更换自己的权力代理人。
锦衣卫实际上就是在这种背景下出现的。当然了胡惟庸被杀以后，锦衣卫的确效果显著，但是随着时间的发展，锦衣卫权力越来越大，文武百官中敢说真话的就越来越少了。
朱元璋权力欲望强，但是非常的会及时调整自己的施政方针。当他看到锦衣卫胡作非为以后，特别是蓝玉案诛杀过多以后，他把锦衣卫的权力进行了限制，但是锦衣卫并没有废除，只是没有之前那么有权力罢了。
等到朱棣发动靖难之役夺得皇位以后，为了压制建文帝原有的势力，于是他便把锦衣卫的权力进行了加强，随后在明朝一直发挥重要的作用。