На момент смерти четвертого Великого хана монгольской империи Мункэ, Хубилай наряду с его братом Ариг-Буги был претендентом на трон. Спешно созванный курултай в Кайпине 5 мая 1260 года провозгласил великим ханом Хубилая, а курултай в Каракоруме месяцем спустя - Ариг-Бугу, так как первые выборы прошли вне пределов родовых монгольских земель, и там присутствовали не все представители правящей династии, Ариг-Буга и консервативные круги монгольского общества опротестовали их законность.
На стороне Ариг-Буги выступили представители трех из четырех ветвей правящей династии: Берке - потомок Джучи, Алгу - потомок Чагатая, и многие представители дома Мунке. Главным приверженцем Хубилая был Хулагу. Междоусобная борьба братьев за власть длилась с 1260 по 1264 год. В процессе этой борьбы Хубилай в 1260 году перенес столицу Монгольской империи из Каракорума в местность рядом с бывшей столицей чжурчжэней Чжунду. Ее назвали Даду, или Ханбалык - позже будет переименован в Пекин.
Стратегия Хубилая заключалась в том, чтобы не дать Ариг-Буге воспользоваться ресурсами земледельческих владений. Опираясь на базу в Каракоруме, Ариг-Буга должен был обеспечить поставку продовольствия для своей армии, а Хубилай стремился отрезать его от снабжения.
К 1262 году Кадан - сын Угэдэя и двоюродный брат Хубилая, одержал верх над сторонниками Ариг-Буги в землях уйгуров и прежних землях тангутов. Армия самого Хубилая встала лагерем в северном Китае в районе бывшей цзиньской столицы Чжунду. Таким образом, под властью Ариг-Буги сохранилась лишь одна земледельческая область - долина Енисея.
Осенью 1260 года Хубилай повел войско на Каракорум, и Ариг-Буга отступил к Усу. В ноябре 1261 года к югу от Каракорума состоялись два сражения между войсками Ариг-Буги и Хубилая. Первая битва была выиграна Хубилаем, но она не принесла полной победы ни одной из сторон. Несмотря на неопределенный исход решающего сражения, Хубилай смог установить полный контроль над Монголией, а Ариг-Бугу сковала борьба с его недавним союзником Алгу.
В итоге, Ариг-Буга потерпел поражение и сдался на милость брата. Поначалу Хубилай хотел примириться с братом и не стал подвергать его никакому наказанию, однако такая снисходительность оттолкнула многих его сторонников. Чтобы унять недовольных монголов, Хубилай приказал Ариг-Буге не показываться на его глаза целый год, однако многие сочли это наказание слишком мягким и потребовали чистки в рядах изменников.
Допросив Ариг-Бугу и выяснив, кто побудил его оспорить права старшего брата, Хубилай казнил десять важнейших приспешников Ариг-Буги. Хубилай не захотел брать на себя ответственность за единоличное решение судьбы своего брата и созвал курултай для суда над Ариг-Бугой, а также для подтверждения собственного избрания на трон великого хана. Однако Ариг-Буга тяжело заболел и в начале 1266 года умер в неволе, избавив Хубилая от затруднений, связанных с необходимостью устраивать суд над родным братом.