忽必烈生前深心倾注于两位子嗣，甘麻剌与铁穆耳，他们各展所长，难以一时决断。尽管未在世时明确指定继承人，但朝中宗王、贵戚及臣子们都清楚帝意，即从这二者选出一人继承皇位。汉臣依循中原传统，推崇嫡长子继承制，支持甘麻剌的登基之道，而真金太妃，则偏爱三儿子铁穆耳，让其继位的念头更为坚定。蒙古宗室内外意见不一，无论如何也无法迅速决定谁将成为新任帝王。最终阔阔真所持的拥立铁穆耳之见逐渐占据上风，但此举令大儿子甘麻剌心怀不满。在母亲的提议下，兄弟俩便进行了一场公开诵读祖训比赛，以胜出的那一方为皇帝。当事人的本质早已昭然若揭，因此患有口吃症状的甘麻剌自然败北，而铁穆耳则于1294年正式登基称帝，其史称元成宗。
在忽必烈执政期间，他汗国中的海都汗和察合台汗国的笃哇汗均未认可忽必烈对蒙古大汗的地位，这导致了蒙古帝国分裂四散。两人还频繁地在元朝西北地区制造纷争。在面对这一局势时，忽必烈派遣大军征讨，而他们采取游击战术，当被动防守时便选择撤退，使得元军难以彻底消灭他们。此后，在元成宗即位之后，他停止了扩张政策，并致力于解决国内问题，将注意力转向整顿内部事务，并命侄海山率兵彻底平息了海都和笃哇留下的遗留问题，以及他们后来的继承人哇、察八儿归顺元朝。这两个国家因其本身就接受过伊尔汗国领导权，所以至此，一直到四个主要汗国都同意承认元朝皇帝是成吉思汗合法后的继承人，使得名义上的蒙古帝国再次统一。
然而，由少年时代酗酒习惯养成的人物来看，即使后来他凭借坚韧不拔的心志克服了酒瘾体魄却受到了极大的损害。不幸的是，在不到40岁的时候，便开始经历连串疾病，不断怠慢政务，大多数事情交由皇后卜鲁罕处理。她与宫廷里的色目官员互相勾结，与汉族官员形成对立，从而欺骗最高层，对抗正当治理，最终导致政治混乱加剧。在1307年，当 元成宗铁穆耳在北京的大都玉德殿去世之际，其年龄仅42岁。他的一生虽然短暂，却留下深远影响给予历史记忆。
