忽必烈生前深心倾注于两位人物的培养:其嫡长子甘麻剌和嫡三子铁穆耳。两人各具特长,令忽必烈难以立即决断继承人,生前未有明确指派。但朝中宗王贵戚及臣子们都明白了他的意图,即从这两者中选择一位继承帝位。
在困惑之中,他们采用了一种独特的方式来选出新君。这涉及到汉臣基于传统的嫡长子继承制倾向于推举甘麻剌为帝,而真金太子的妃子阔阔真则更偏爱铁穆耳,希望他能登基。在蒙古宗室成员之间,也存在分歧,一时谁将成为下一任皇帝存疑。最终,阔阔真提议让兄弟们进行公开诵读祖训比赛,以此决定皇位归属。当事人的内心皆知,其结果自然是铁穆耳胜出,被拥立为元成宗,他于1294年登基。
在忽必烈统治期间,窝阔台汗国的海都汗与察合台汗国的笃哇汗拒绝承认忽必烈对蒙古大汗的地位,从而导致蒙古帝国四分五裂。此外,这两人还频繁在元朝西北地区制造冲突。面对这一挑战,忽必烈发兵征讨,但他们采取游击战术,在无法完全平息后退。随着元成宗上台,他停止了对外扩张,将注意力转移到内部事务,并由侄儿海山率军彻底击败了海都和笃哇,以及他们的继任者,都哇、察八儿,最终迫使它们归附元朝。这场胜利使得四大汗国——伊尔汗国、钦察汗国等均接受元朝皇帝为成吉思汗合法继承人,使蒙古帝国名义上重归统一。
然而,由于少年时期酗酒习惯所造成的身体损害,加上日后的饮食不规律和生活作息失常,元成宗早逝仅四十二岁。他晚年的健康状况不断恶化,最终在1307年於北京的大都玉德殿去世,由卜鲁罕女皇处理政务,她与色目官员勾结排斥汉族官员,同时欺骗高层,最终导致政治混乱。