当朱元璋年过五十以后，已感体力不支，他不能不考虑权力交换的问题。他认为太子柔弱，难以驾驭这些桀骜不驯的功臣，于是他制造一个又一个的冤案，大肆杀戮功臣，为子孙削棘。有一年朱元璋要杀宋濂。宋濂早年就追随朱元璋，功劳很大，明朝建立后官至学士承旨知制诰，很受器重。宋濂还是太子的老师，深受太子和诸王敬重。太子见朱元璋要杀老师，就哭着求情；朱元璋便拿来一根长满刺的棘条放在地上，叫皇太子拿起来。太子面有难色。朱元璋便教训太子：“你不敢拿棘杖，是怕刺扎了手吧。现在我把刺都给你削掉，再交给你不是更好吗？”太子也明白了朱元璋的杀人之意，但并不以为然，婉转地说：“上有尧舜之君，下有尧舜之民。”这弦外之音就是：“上有残暴之君，下有不忠之民。”朱元璋听了十分光火，他拿起椅子朝太子砸了过去。
朱元璋把功臣宿将视为荆棘，他要为子孙留下安稳江山，就要“削棘”。
朱元璋当政时，共设过四个宰相。开国首相是左、右丞相徐达、李善长，徐达是因常年带兵在外，离开了相位；李善长是因朱元璋记恨他决事独断，借故让他退了休；第三位宰相汪广祥因不合他的心意而被贬；胡惟庸是继后的第四位，也是最后一位宰相，朱元璋首先拿他开刀。
胡惟庸投奔朱元璋后，在李善长手下做事，为人精明，以办事干练著称。汪广祥被贬后，经李善长推荐任宰相。他在朝中拉拢亲信、排除异己，贪贿好利、恣意弄权，引起了朱元璋的不满和猜疑，遂下决心除掉他。