锦衣卫原先是军事建制，明初的军制比较简单，其基层单位是“卫”和“所”，京城的禁卫军所辖卫所为48处。朱元璋改革禁卫军，建立了12个亲军卫，其中最重要的是“锦衣卫”。首领称为指挥使，由皇帝亲信武将担任，很少由太监担任。负责巡查缉捕，则是锦衣区别于其他各朝禁衛軍特殊之處。
朱元璋建立锦衣衛初衷是用來做儀仗禮儀，但後來因為他大肆屠戮功臣，他認為司法機構如刑部、大理寺、都察院都不好用，所以將锦衣衛保衛功能提升，使其成為皇帝私人守护者。明朝前兩代皇帝朱元璋與朱棣都是出身寒微，因此對於皇權維護有其他朝代無法比擬強烈，這使得锦衣衛巡查缉捕職能無限度地扩大。
指揮使利用職務之便，不遺餘力地制造事端既打擊異己，又作為自己升迴升遷資本。在成祖時期紀纲、武宗時期錢寧等掌權時，上至宰相藩王，下至平民百姓，都處於他們監視之下，只要稍有拂逆，就會家破人亡，全國上下笼罩在恐怖氣氛中。
臭名昭著北鎮抚司大牢更關滿了各種各樣無辜的人們，有些正直士子死於酷刑之下也不計其數。一日，大概因為總是早起上朝，加上年紀已老體力有些不支，便順口賦詩一首：“四鼓咚咚起著衣，午門朝見尚嫌遲。”第二日上朝，被朱元璋見面，即說昨日做得好詩！可是我並沒有嫌你遲呀，是不是改成忧吧？
宋濂被嚇得趕忙拜倒謝罪。当时宰相只不过在自己家中偶爾感慨一下，一想到第二天就傳到了皇帝耳朵里，可見錦衣勢力之大。而另一項著名職能就是執掌廷杖。在那里，如果哪位官員觸怒了皇帝，被宣布加以廷杖，他立刻被扒去官服反綁雙手押至午門行刑。在那里，受刑者裹在一個大布裡，而司禮監掌印太監和錦衣指揮使一左一右，在暗示準確地掌握受刑人的生死。如果兩腿像八字形張開表示可留杖下人活命；反之若脚尖向內靠拢則杖下的生命就只有死路了一條。此後還要提起裹住受刑人的布四角抬起再重重摔下，此時布中的生命就算不死，也去了半条命。廷杖這種酷刑對士大夫肉體及心靈皆極大的損害，但皇帝對此樂此不疲，而錦衣也就對它情有獨鍾了。
