以“枉法诬贤”“蠹害政治”等罪名，当天便以“谋不轨”罪诛宰相胡惟庸九族，同时杀御史大夫陈宁、中丞涂节等数人。
除掉胡惟庸后，朱元璋罢左右丞相，废中书省，其事由六部分理，后设殿阁大学士供皇帝作为顾问。
另设内阁供皇帝做为顾问。内阁大学士的权力不如宰相，只有“票拟”权力，先送宦官，再由宦官上呈与皇帝。
洪武二十八年（公元1395年），朱元璋手令说：
“自古三公论道，六卿分职。自秦始置丞相，不旋踵而亡。汉、唐、宋因之，虽有贤相，然其间所用者多有小人专权乱政。
我朝罢相，设五府、六部、都察院、通政司、大理寺等衙门，分理天下事务，彼此颉颃，不敢相压，事皆朝廷总之，所以稳当。
以后嗣君并不许立丞相，臣下敢有奏请设立者，文武群臣即时劾奏，处以重刑。”
自此，朱元璋结束了中国的丞相制度，加强了专制皇权，成为了中国封建君主专制的顶峰时刻。
胡惟庸被杀在中国政治制度史上的意义，是国家治权的变质，从官僚与皇帝共治国家，转变为官僚成奴才、皇帝独裁专制的历史新阶段。
朱元璋废除宰相制后，仍然能时时刻刻感受到李善长的威胁，心中总是萦绕着“总有刁民想害朕”的奇怪想法。
李善长为功臣之首，虽已退休，但其凝聚的朋党势力还是很大，加之与胡惟庸的姻亲故旧关系。所以，如何处理掉李善长成为朱元璋的一块心病。
为了巩固帝业，就必须彻底消除这一隐患，因而胡惟庸案不断升级，罪名逐渐向李善长等功臣靠拢。
明代的心腹大患是「北虏南倭」，于是又为胡惟庸添上了一个「通倭通虏」的罪名，就是说他勾结蒙古和日本，企图谋反。
但是，根据吴晗所著的《胡惟庸党案考》，通倭通虏都是「莫须有」的罪名。胡惟庸事件像一个传说中的故事，时间越长，故事的范围便越扩大。
到后来，胡惟庸东通日本高丽，西通卜宠吉儿，南通三佛齐，北通沙漠，东西南北诸夷，无不与胡惟庸叛逆案发生关系。
朱元璋在杀胡惟庸若干年后，又给他加上这些谋逆罪名，就是想借胡案兴起大狱来诛杀文武功臣，以防功臣们日后威胁朱姓子孙。
平心而论，胡惟庸被杀完全是咎由自取，但是所谓的「胡党」却未免牵强附会，是一场史无前例的冤案。
胡惟庸案实际上成为朱元璋整肃
…。。