1259年，蒙哥與忽必烈分路進攻南宋，而蒙哥在進攻四川的合州釣魚城時受阻，久攻不下。令人感到意外的是蒙哥在此突然病逝。蒙哥作為蒙古大汗，死時沒有指定誰當繼承人，那麼蒙古大汗這個位置自然就有人爭奪了。

此時在另一路進攻南宋的忽必烈收到使者傳來的訊息才知道蒙哥病逝，他感到非常突然。這個使者請忽必烈儘早北歸蒙古，繼承汗位，刻不容緩，但忽必烈認為蒙哥派他來進攻南宋，不可無功而返，於是選擇繼續進攻南宋。後來忽必烈妻子派使者來報，蒙古王公大臣正在蒙古大本營哈拉和林謀立他的弟弟阿里不哥繼承汗位了。忽必烈見有人有爭汗位，自己不可再謙讓了，這次決定北歸。為了穩住前線，忽必烈暫時與南宋議和，再北返自己的屬地燕京，觀察蒙古本部的形勢並謀劃繼承汗位。南宋暫時得到喘息的機會。

忽必烈

根據蒙古部落的傳統，新大汗需要由蒙古王公大臣召開庫裡臺大會決定，雖然阿里不哥已得到大家的擁戴，但這手續還是要走完的，所以他催促忽必烈回蒙古本部參與庫裡臺大會。如果忽必烈這個強勁對手都參會贊成阿里不哥繼承汗位，那麼阿里不哥繼位就很穩妥了。當然，忽必烈肯定不會回去參會擁戴阿里不哥繼承汗位，而且把阿里不哥派來的使者拘禁。忽必烈先下手為強，在燕京舉行登基大典，宣佈繼承汗位。忽必烈這一招完全打亂阿里不哥的節奏，見忽必烈已在屬地搞個“非法政府”，阿里不哥趕緊召集蒙古的王公大臣召開庫裡臺大會，儘早合法地繼承汗位。阿里不哥繼承了正統的汗位，可以謀劃著如何討伐忽必烈這個非法大汗了。

阿里不哥

現在同時存在兩個蒙古大汗，阿里不哥得到庫裡臺大會的擁戴，合情合法，自然得到大部分蒙古宗室與屬地的支援。忽必烈是私自稱汗，得到的支援不多，遭受口誅筆伐，在輿論上處於劣勢。西征統帥旭烈兀是忽必烈與阿里不哥的兄弟，他剛在西亞滅掉阿拉伯阿拔斯王朝，勢頭正猛，是忽必烈與阿里不哥都想拉攏的勢力，但旭烈兀沒有明確押注哪方，先靜觀其變。天無二日，國無二主，按蒙古人的性格，一場爭奪汗位的大戰是必不可少的。

支援忽必烈的人不多，但忽必烈南下經營中原多年，軍力不差，還有豐富的物資支撐，而且在後來用豐厚的條件拉攏到弟弟旭烈兀的支援，所以忽必烈敢於放手一搏。1260年秋，阿里不哥揮師南下，兵分兩路，一路西下進攻陝川，自己則率一路大軍直逼燕京。忽必烈親自領兵迎敵，大將移相哥為其前部。移相哥一路勢如破竹，往北推進到蒙古本部，阿里不哥覺得和林不安全，只得撤退，忽必烈隨後佔領了和林。此時和林因戰爭而破敗，加上忽必烈要顧及漠南漢地，所以不久後忽必烈南返燕京，留下移相哥鎮守漠北。

阿里不哥經過休整後，元氣有所恢復，舉兵攻來。阿里不哥詐降令移相哥疏於防範，成功突襲，再次佔領和林城。忽必烈率諸路漢軍與蒙古諸王所部再度北征，與阿里不哥部隊對戰於昔木土腦兒之西，阿里不哥再次潰敗撤兵。但是，阿里不哥就像一隻打不死的小強，一恢復元氣就來進攻忽必烈軍隊，忽必烈不勝其煩，而和林城在雙方中幾經易手。局勢搖擺不定，似乎雙方都不能一口徹底地吃掉對方。

忽必烈

1262年，阿里不哥據守和林城，但糧餉不足，加上部下反叛，需要自己去討逆。阿里不哥只好讓城中百姓歸降忽必烈，自己西遷討逆，這次忽必烈一方徹底佔領了和林城。阿里不哥討逆成功後，駐紮在阿力麻裡，他在此肆意殺掠，加上饑荒橫行，軍心渙散，阿里不哥感覺難以為繼了。1264年春，阿里不哥無計可施，無奈地向忽必烈輸誠，長達5年的汗位爭奪戰就此結束，忽必烈取得最終的勝利。

忽必烈已掃除障礙，坐穩汗位，將燕京設為中都，還將國號由“大蒙古國”改為“大元”，忽必烈從大蒙古國皇帝變為大元皇帝。忽必烈開始全力攻打偏安一隅的南宋，南宋離覆滅不遠。