拥立阿里不哥为汗。两汗并立，随即发生战争。
蒙古国军队的主力，原由蒙哥统率侵宋。蒙哥死后，大将哈刺不花率部退据六盘山，与留守这里的浑都海部会合。阿里不哥派出霍鲁怀、刘太平等来陕西，拘收钱谷，企图与六盘山驻军联合，自关中进兵。廉希宪、商挺等来京兆，先发制人。6月，以谋反罪处死霍鲁怀、刘太平，并处死浑都海在四川的党羽乞带不花、明里火者。忽必烈诏令陕西四川宣抚使八春节制诸军，命巩昌权总帅汪良臣统率陕西汉军防御六盘山的军队。
忽必烈亲率大军自开平出发去和林，攻打阿里不哥。9月，至转都儿哥之地。阿里不哥派遣阿蓝答儿领兵南下，至西凉府，与浑都海军会合东来，哈刺不花因意见不和引兵北去。忽必烈命诸王合丹、合必赤与八春、汪良臣等率领蒙、汉军迎战。两军大战于删丹，阿里不哥军溃败。阿蓝答儿、浑都海相继被杀。阿里不哥败逃，退至乞儿吉思地，派遣使者与忽必烈相约，邀集西北诸王正式选汗。忽必烈命宗王移相哥统领一军国驻和林，以待阿里不哥。10月，忽必烈领兵南返，12月至燕京，赏赐拥立诸王。1261年2月，返回开平。
1261年秋，阿里不哥率领斡亦刺等部众，突然袭击移相哥军，乘胜南下。忽必烈得警，急忙征调张柔、严忠嗣、张宏等七处汉军，并令董文炳率射手千人，塔察儿率军士万人随从出征。11月，忽必烈军与阿里不哥战于昔木上脑儿。诸王合丹、驸马腊真、丞相缐真和兀鲁、忙兀二部军为右军；诸王塔察儿、太丑台和史天泽等将左军；诸王哈必赤将中军，合势进攻，斩阿里不哥的大将合丹火儿赤。塔察儿与合必赤分兵奋战，大破斡亦刺军。阿里不哥后军阿速台复至，再战，两军杀伤相当。阿里不哥北撤，忽必烈也还军。
察合台汗领地（兀鲁思）原由兀鲁忽乃妃子摄政。忽必烈即位后，即派遣察合台曾孙阿必失哈偕弟纳邻合丹去阿力麻里主持政事。二王行至途中被阿里不哥捕获。阿里不哥乃派察合台孙阿鲁忽（拜答儿子）去察合台汗地执政，以为声援，并防御在波斯的旭烈兀。阿里不哥远在漠北，从汉地北运的粮食断绝，给养缺乏，便派遣使者去察合台汗领地征敛。阿鲁忽杀使者，转而拥护忽必烈。
1261年秋，阿里不哥领兵往征阿鲁忽。阿鲁忽在普刺城迎战，斩阿里不哥大将哈刺不花。阿鲁忽得胜而回，不再戒备。阿里不哥的后军阿速台突然进至阿力麻里地区，阿鲁忽败走和田、喀什噶尔。阿里不哥军遂驻冬阿力麻里，阿鲁忽西走撤马尔罕。
阿里不哥进驻阿力麻里后大肆屠掠，阿鲁忽部下多被杀死。1264年春天，又值饥荒，人民死亡甚多。阿里不哥部下将士多逃至驻在阿尔泰地区的扎布汗河上的玉龙答失，共商归降忽必烈。阿里不哥众叛亲离，又怕阿鲁忽报复，走投无路，不得不投附忽必烈。阿里不哥来见忽必烈请罪。忽必烈问他说：我和你谁对？阿里不哥回答说：在以前，是我对。今天，算你对。忽必烈命宗王和将领审讯拥立阿里不哥的诸臣，李鲁欢等被处死。忽必烈又分遣使者征询波斯旭烈兀、钦察别儿哥和察合台兀鲁思的阿鲁忽三王，决定赦免阿里不哥及阿速台罪。不久，阿里不哥病死。
忽必烈经过和阿里不哥的斗争，巩固了自己的地位后，继续进行对南宋的侵略。南宋小朝廷这时内部已衰朽不堪，1276年都城临安（杭州）陷落。以后虽有文天祥、张世杰、陆秀夫等坚持抗战，但不幸先后失败，南宋政权于1279年被完全消灭。
忽必烈从青年时起受汉文化影响较多，即位后又多倚靠汉人地主的支持，所以他的统治日益带有汉化色彩。1271年，在即位10多年之后，正式仿效中国王朝建国号为大元，取《易经》乾元之义。1272年改金中都为大都（北京），宣布在此建都，宫殿建成后即迁都于此。他统治中心日益移入中国内地，成为中国的一个统治王朝。1276年南宋降，1279年追灭南宋卫王于崖山，完成多民族的统一国家。
忽必烈即位后，采纳僧子聪等幕僚的建策，依据汉人封建王朝的传统，颁布即位诏，称皇帝。自成吉思汗建立蒙古国家以来，从未建立年号。忽必烈始建元“中统”，下诏说：“稽列圣之洪规，讲前代之定制。建元表岁，示人君万世之传。纪时书王，见天下一家之义。法《春秋》之正始，体大《易》之乾元。”表明他是中原封建王朝的继承人。
忽必烈借鉴了蒙古、金、宋等国的政治制度，设立行省制度，对某些特殊地方则灵活采用不同的制度，如对吐番地区就采用政教合一的制度。这个制度在军事、政治、经济等方面都是服务于多民族统一国家的。为了同一个目标，元朝实行了非常特殊的户籍制度，重新开凿大运河，使原来水陆并用的大运河成为真正的运河。开辟海运，用了三十年时间，开辟了从刘家港（今上海）至直沽的近海航行。陆路交通也大力开拓，设驿道、驿站，被称为“星罗棋布，脉络相通”。
他还充分利用原蒙古西征的有利条件，发展了同中东、欧洲的交往。元人形容为：“适千里者如在户庭，之万里者如出邻家。”他允许并鼓励各国商人在国内经商或经营国际贸易，对各种宗教、文化采取兼容并蓄政策，甚至欧洲的商人、教士往来中国和欧洲之间。忽必烈还亲自询问威尼斯商人尼哥罗兄弟，了解欧洲状况。后来尼哥罗的儿子、著名的马可·波罗居中国17年，为官元朝，写下了名著《马可·波罗游记》，为东西方文明的沟通起到不可替代的作用。罗马教庭也派出众多教士来中国传教，在大都、杭州、泉州、扬州等地都设立了教堂。
西方天文、数学、历史、地理、医学都进入中国，如欧几里德几何学就在那时传人中国。忽必烈甚至让阿拉伯建筑师黑迭儿参加元大都皇城和宫殿的设计和建设。中国使节也到达法国、意大利等欧洲国家。商船还到达非洲，元人汪大渊随船到达今坦桑尼亚等国，他还遣使索马里、摩洛哥。摩洛哥商人长住在中国，大批精美的中国瓷器远销摩洛哥。忽必烈创立的元朝，是中国历史上同世界交往空前的朝代。
忽必烈不但结束了中国长期的南北分裂状态，而且实现了辽东、漠北、西域、吐番、云南等地区的空前大统一。特别是吐蕃地区首次并入版图，使中国幅员远胜汉、唐。他还使各民族人员空前大批相互流动，形成元帝国文化多样性的显著特色，尤其是精通汉文化的各族文人学者的涌现，更是前朝没有的盛事。这其实奠定了中华帝国真正统一的基础。
只是，忽必烈对内实行蒙古人高于其他族人的歧视政策，特别是对汉族的横征暴敛，残酷压迫，激起中原人民的不断反抗。到他身后的几个皇帝，荒淫腐败，终于导致农民起义不断，直至被推翻。
1294年2月，忽必烈病逝于大都，享年80岁。葬在漠北起辇谷（在今克鲁伦河上游肯特山南麓）。忽必烈一生知人善任，重视建军治军，维护国家统一。他主张政治与军事并用，战抚兼施，注重集中兵力，避免两线作战；善于运用远程奔袭、迂回、围歼以及步兵、骑兵、砲兵、水兵联合作战等战法，夺取胜利，为元朝的建立和巩固做出了重大贡献。
任命郭守敬建造北京城
1262年，张文谦向当政者推荐郭守敬“巧思绝人”。元世祖忽必烈召见了32岁的郭守敬。忽必烈惊讶于这个年轻人的才学，这个年轻人陈述了6条治水建议，每说一条，忽必烈都禁不住感叹说：“任事者如此，人不为素餐矣。”
一个新生政权在其初始阶段，总透着干练与做事的高效率，任人唯贤也是贤明智慧的当权者得以功成名就遵循的一个基本原则。一个马背上建立起来的帝国，在一般人眼里充满野蛮杀戮的帝国，他的君王竟有如此贤明的一面，竟对科学技术如此着迷和认可。正因为有了忽必烈不拘一格的赏识，郭守敬跳过了许多条条框框，被很快任用，先是提举诸路河渠，四年后，他有了副河渠使的官职。
1264年，元将首都定在大都，即今天的北京。此时在忽必烈周围，已形成一个以刘秉忠和郭守敬为代表的技术智囊班子。同年，郭守敬随有举荐之恩的张文谦到了今天的宁夏、甘肃和内蒙古一带，主要的一项工作仍然是治水。此时的郭守敬基本都是常年奔波野外。
第二年回到都城，他被任命为都水少监，开始参与设计北京城最初的水利工程。然而1274年，他的老师刘秉忠死了。忽必烈命郭守敬和王恂接手刘秉忠开始的天文历法修改工作，参与这项工作的还有张文谦、张易和许衡。
星空与大地，有多少秘密在等待人探索发现呢？“历之本在于测验，而测验之器莫先仪表。”从47岁到49岁，是一个人创造力最活跃最旺盛的时期吗？这一时期，郭守敬直接领导了著名的授时历的制订工作，同时，他开始创造性地制作出简仪、高表等一系列天文仪器。带着制作完成的仪器上了朝，郭守敬在忽必烈面前指陈历制，从早朝到太阳下山，看得入迷的忽必烈都没有觉出疲倦。
得到最高领导者的欣赏，郭守敬对工作有了进一步的打算，“设监候官14员，分道而出，东至高丽，西极滇池，南逾朱崖，北尽铁勒，四海测验，凡27所”。
1291年，郭守敬再回到水利工作上。而他做的第一件事情，就是建议在通州和大都之间开凿运河。
此前，通州到大都，陆运官粮，赶上绵绵秋雨，牲口累死不计其数。第二年春天，工程开工了，到1293年秋天，水利工程完工，从前那种苦烈的情景再看不到了。忽必烈从上都回到大都，过积水潭的时候，见舟船遮蔽了水面，大喜，于是把这段工程命名为通惠河。
“郭守敬主持北京水政时期，奠定了今天北京水利的格局”。这是今天的人们对郭守敬当年工作成果的中肯评价。而我们还知道，对当时首都的水利规划，郭守敬还有更大的设想，他设想引到更多的水，能使舟船环城往来。但这个设想他没有实现。
是“神风”还是“豆腐渣”战舰救了日本？
忽必烈也是中国历史上向外出兵扩张的皇帝。他两次出兵攻打日本，并出兵侵入安南、占城、爪哇、缅甸等国。直至元成宗即位，下诏罢征南之役始结束，并由此转入商业、文化交往。
1274年，忽必烈以忻都、洪茶丘和范文虎为征东行省右丞，李庭为左丞，率领一支由900艘战舰组成的舰队东征日本，元军在战争开始阶段取得了很多辉煌战果。后又因天气恶劣被迫撤退，最终遭遇“神风”全军覆没。
井上靖这样记载：蒙古于“公元1274年10月初，占领了对马、壹岐两岛，继而侵入肥前松浦郡……使日军处于不利，不得不暂时退却到大宰府附近。元军虽然赶走了日军，但不在陆地宿营，夜间仍回船舰。当元军回到船舰后，恰遇当夜有暴风雨，元舰沉没两百余只，所余元军撤退，日本才免于难。”
台风乍起之时，当时由于不熟悉地形，元军停泊在博多湾口的舰队一片混乱，不是互相碰撞而翻，就是被大浪打沉；午夜后，台风渐停，但暴雨又降，加上漆黑一片，落海的兵卒根本无法相救。忻都怕日军乘机来袭，下令冒雨撤军回国。此役，元军死亡兵卒达1。35万人。日本史书则称之为“文水之役”。
第二天一大早，日军在大宰府水城列阵，但不见元军进攻，派出侦察人员始知博多海面已无元军船只，元军撤退了。
1281年，忽必烈“以日本杀使臣为由，结集南宋新附军10万人组成一支大军二次东征日本。元军兵分两路：洪茶丘、忻都率蒙古、高丽、汉军4万，从高丽渡海；阿塔海、范文虎、李庭率新附军乘海船9000艘，从庆元、定海启航”。高丽国王为元朝“提供了1万军队，1500名水手，900只船和大批粮食”。然而，日本守军已有前次抗击蒙古的经验，他们在箱崎、今津等处沿岸构筑防御工事，并以精锐部队开进志贺岛，与东征元军进行了激烈战斗。
元军因高丽、汉、蒙古统率之间的矛盾而不能协调作战。这样，“蒙古军在毫无荫蔽的前提下，每前进一步都要付出沉重的代价。两方对峙达两个月之久。蒙古军队没有看到胜利的希望。两个月之后，一场巨大的台风袭击了库树海岸，蒙古军再次企图撤入海上，但他们的努力是徒劳的”。
“在此次台风袭击下，蒙古东路军损失1／3，江南军损失一半，一些靠近海岸的士兵被日本人屠杀或溺死。”汉文史料也记载到，由于元军战船“缚舰为城”，因而在“波如山”的台风袭击下“震撼击撞，舟坏且尽。军士号呼溺死海中如麻”。蒙古人第二次东征日本又以惨败而告终。次年，派水、陆军远攻占城（今越南南部）。
东征西讨、所向披靡的元世祖忽必烈远征日本却始终未果，于是在日本流传着这样的传说：是“神灵之风”（神风）两度将日本从蒙古人手中解救出来。此后数百年中，日本人一直对神风顶礼膜拜，兴起了大规模拜神的活动。此后“神风”陪伴了日本人670多年，直到公元1945年。然而，对蒙古战舰的考证却否定了这个传奇。近期发表在英国《新科学家》周刊的一项考古新发现指出：拙劣的设计和造船技艺是导致蒙古舰队失败的主要原因。
虽然古代文献中确有关于1281年日本台风的记载，但根据现存证据，研究人员无法判断出那场风暴的强度，以及风暴与蒙古舰队的沉没究竟有多大关系。
美国考古学家兰德尔·佐佐木对1981年从高岛附近打捞上来的700多块蒙古战舰残骸进行了仔细研究和分析，发现蒙古战舰粗制滥造，质量低劣。“蒙古战舰龙骨上的铆钉过于密集，甚至在同一个地方有五六个铆钉。这说明这些材料在造船时曾反复使用，而且许多龙骨本身质量就很低劣。至于蒙古军队的舰船设计，据记载大多是平底河船，并不适于航海。迄今为止，我们没有在高岛附近海域发现V字型远洋船的龙骨。”佐佐木说。
据汉文史料记载，1274年正月，忽必烈命令高丽王造舰900艘，其中大舰可载千石或四千石者300艘，由金方庆负责建造；拔都鲁轻疾舟（快速舰）300艘，汲水小船300艘，由洪茶丘负责建造，并规定于正月15日动工，限期完成。6月，900艘军舰完工。
当时，造船工业发达的中国江南及沿海地区尚未被忽必烈完全征服，部分地区仍在南宋军队的控制之下。所以，忽必烈不得不将造船的任务交给技术较为落后的高丽人。一方面，高丽对于造船很反感，认为元朝出兵日本肯定会要求高丽参战，这必将给高丽人带来沉重的负担。另一方面，让造船技术落后的高丽在如此短的时间内完成忽必烈强压的任务实属难事。高丽人只得在匆忙间敷衍了事，这些舰船的质量也就可想而知了。
至于船舰的设计，据史料记载，1281年蒙古军队的大多数战舰都是平底河船，采用了当时较为流行的水密隔舱设置，但是此种结构并不适于航海作战。
所谓水密隔舱，就是用隔舱板把船舱分成互不相通的一个一个舱区，舱数一般为8或13个。它大约发明于唐代，宋以后被普遍采用。虽然该结构便于船上分舱，有利于元军在航海途中进行军需品的