他是凤阳府定远县(今属安徽)人,生于?年,卒于1380年。早年跟随朱元璋起兵,并历任多个官职,最终在洪武三年被拜为中书省参知政事,在六年七月被任命为右丞相,再次升迁至左丞相位居百官之首。他权势增大后变得骄横跋扈,对不利己的奏章匿而不报,同时收买功臣和仕进者,为个人利益牟取暴利。
他还勾结其他高级官员谋反,并试图诬陷朱元璋的大将军徐达未遂。此外,他还企图策划宫廷政变,但最终因其计划败露而被处死。他的谋反罪行在死亡后逐渐被揭露,其中包括与亡命之徒勾结、派遣刺客暗杀朝廷大臣等,这些行为导致了数千人的株连事件,进一步巩固了中央集权制度。
然而,有史学家认为胡惟庸是否真的有意谋反存在争议,明代史籍中关于此案的记载也存在矛盾,因此对其真实性持怀疑态度。