หลังราชวงศ์จิ้นตะวันออกก่อตั้งขึ้นที่ภาคใต้ของจีน ทางภาคเหนือของจีนมี 3 อาณาจักรสำคัญ ได้แก่ โฮ่วจ้าว เฉียนเอี้ยน และเฉียนฉิน

อาณาจักรโฮ่วจ้าวก่อตั้งขึ้นโดยสื่อเล่อ อาณาจักรเฉียนเอี้ยนตั้งขึ้นโดยมู่หรงห่วง ส่วนอาณาจักรเฉียนฉินก่อตั้งขึ้นโดยฝูเจี้ยนหัวหน้าชนเผ่าตี

ส่วนทางภาคใต้ เมื่อราชวงศ์จิ้นตะวันออกมีความมั่นคงขึ้น ขุนนางที่รักชาติก็พากันเรียกร้องให้จักรพรรดิหยวนตี้แห่งราชวงศ์จิ้นตะวันออกส่งกองทัพขึ้นไปพิชิตภาคเหนือ เพื่อกอบกู้ดินแดนภาคเหนือที่เสียไปแก่ชนเผ่าน้อยกลับคืนมา ผลที่สุด จักรพรรดิราชวงศ์จิ้นตะวันออกต้องยินยอมให้จู่ตี๋นำกองทัพขึ้นไปภาคเหนือ หลังสู้รบอยู่หลายปี จู่ตี๋สามารถกอบกู้ดินแดนบางส่วนคืนมาได้ แต่เนื่องจากทางราชสำนักจิ้นตะวันออกไม่เต็มใจสนับสนุน เมื่อจู่ตี๋เสียชีวิตลง ปฏิบัติการกอบกู้ดินแดนภาคเหนือก็ยุติลง

ต่อมาเมื่อ ค.ศ. 354 หวนเวิน แม่ทัพราชวงศ์จิ้นตะวันออกนำกองทัพบุกโจมตีอาณาจักรเฉียนฉินที่อยู่ทางภาคเหนือของจีน โดยรุกไปถึงป้าซั่ง ที่นับได้ว่าเป็นประตูของเมืองฉางอัน แต่หลังจากนั้นไม่นาน กองทัพราชวงศ์จิ้นตะวันออกก็ต้องประสบความพ่ายแพ้ครั้งแล้วครั้งเล่า ประกอบกับแม่ทัพหวนเวินเองมีความทะเยอทะยานที่จะตั้งตนเป็นจักรพรรดิ ทำให้เกิดความขัดแย้งขึ้นอย่างรุนแรงในราชสำนักจิ้นตะวันออก หลังแม่ทัพหวนเวินเสียชีวิต เซี่ยอัน ได้ดำรงตำแหน่งอัครมหาเสนาบดี ราชวงศ์จิ้นตะวันออกได้อยู่สภาพสงบสุขชั่วคราว แต่ช่วงเวลานั้น อาณาจักรเฉียนฉินที่อยู่ภายใต้การปกครองของฝูเจียนมีนโยบายที่จะรุกลงมาทางภาคใต้ มาดหมายจะพิชิตราชวงศ์จิ้นตะวันออกให้จงได้

เมื่อปี 383 ฝูเจียนได้ยกทัพใหญ่ประกอบด้วยทหารราบและทหารม้ารวมประมาณ 870,000 คนรุกลงมาทางภาคใต้ เพื่อพิชิตราชวงศ์จิ้นตะวันออก ด้วยความเชื่อมั่นในกำลังทหารที่เข้มแข็งของตน ฝูเจียนถึงกับคุยโวว่า เพียงแค่โยนแส้ม้าของกองทัพตนลงไปในแม่น้ำไม่ว่าจะสายไหน ก็สามารถยับยั้งไม่ให้กระแสน้ำสายนั้นไหลได้ ส่วนกองทัพของราชวงศ์จิ้นตะวันออกมีกำลังทหารน้อยกว่ามาก โดยมีเซี่ยสือและเซี่ยสวนเป็นแม่ทัพ อย่างไรก็ตาม ทหารของกองทัพฝูเจียนส่วนใหญ่ถูกเกณฑ์มา จึงไม่เต็มใจและก็ไม่มีกำลังใจที่จะทำการสู้รบ ขณะเดียวกัน หัวหน้าชนเผ่าเซียนเปย และชนเผ่าเชียงที่อยู่ในภาคเหนือเช่นเดียวกับฝูเจียน ไม่ได้สวามิภักดิ์ต่อฝูเจียนจริง ด้วยสาเหตุดังกล่าว เมื่อกองทัพฝูเจียนปะทะกับกองทัพราชวงศ์จิ้นตะวันออกที่ลั่วเจี้ยน มณฑลฮันฮุย กองทัพฝูเจียนจึงต้องเป็นฝ่ายแพ้

หลังจากนั้น กองทัพของราชวงศ์จิ้นตะวันออกรุกคืบหน้าไปทางฝั่งตะวันออกของแม่น้ำเฝยสุ่ย ทางใต้ของอำเภอโซ่วเซี่ยน มณฑลอันฮุย และขอให้กองทัพของฝูเจียนถอยหลังเล็กน้อย เพื่อให้กองทัพของตนข้ามแม่น้ำไปก่อน แล้วค่อยสู้รบกัน ฝูเจียนยอมถอยทัพให้โดยวางแผนไว้ว่า เมื่อกองทัพของราชวงศ์จิ้นตะวันออกข้ามแม่น้ำเฝยสุ่ยได้ครึ่งทาง ก็เป็นโอกาสอันดีของตนที่จะระดมกำลังทหารของตนที่มีมากกว่าหลายเท่าบดขยี้กองทัพข้าศึกให้ย่อยยับ อย่างไรก็ดี เมื่อฝูเจียนสั่งให้กองทัพของตนถอย ทหารของชนเผ่าเซียนเปย และชนเผ่าเชียงที่ไม่เต็มใจสนับสนุนฝูเจียนก็ออกวิ่งหนีกันคนละทิศละทาง ทำให้กองทัพของฝูเจียนเสียขบวน และถูกกองทัพของราชวงศ์จิ้นตะวันออกโจมตีแตกพ่ายหนีกระจัดกระจายกันไป เมื่อฝูเจียนนำกำลังทหารที่เหลือกลับถึงเมืองลั่วหยาง ปรากฏว่า จำนวนทหารที่เหลือมีเพียงประมาณหนึ่งแสนคนเท่านั้น

การสู้รบระหว่างกองทัพฝูเจียนกับราชวงศ์จิ้นตะวันออกที่บริเวณลุ่มแม่น้ำเฝยสุ่ยครั้งนี้ทำให้สถานการณ์ในภาคเหนือของจีนเปลี่ยนแปลงไปอย่างใหญ่หลวง หลังจากนั้น ก็ได้มีอาณาจักรเล็กอาณาจักรน้อยอุบัติขึ้นมาใหม่หลายอาณาจักรภายในดินแดนที่เคยเป็นอาณาจักรของฝูเจียน

ต่อมา ชนเผ่าทั่วป๋าสามารถรวมดินแดนที่แตกแยกในภาคเหนือเข้าด้วยกัน ชนเผ่าทั่วป๋าเป็นแขนงหนึ่งของชนเผ่าเซียนเปย ได้ยกกำลังจากทางด้านตะวันตกของมองโกเลียในและด้านเหนือของมณฑลซานซี เข้าพิชิตอาณาจักรเล็กอาณาจักรน้อยในภาคเหนือ ทำให้ภาคเหนือของจีนที่เคยแตกแยกกลับมารวมกันเป็นอาณาจักรเดียวกันได้ ซึ่งนี่ก็คืออาณาจักรเป่ยเว่ย

ส่วนทางด้านราชวงศ์จิ้นตะวันออกที่อยู่ทางภาคใต้ของจีน หลังจากเซี่ยอันอัครมหาเสนาบดีเสียชีวิตแล้ว ซือหม่าเต้าจื่อ เจ้าแห่งราชวงศ์จิ้นตะวันออกเข้ามายึดอำนาจได้ ยังผลให้เกิดการต่อสู้ระหว่างราชตระกูลกับตระกูลใหญ่ๆ ที่ทรงอิทธิพล และเป็นเหตุสำคัญที่ทำให้หวนสวน บุตรชายของหวนเวิน แม่ทัพที่มีชื่อเสียงของราชวงศ์จิ้นตะวันออกก่อกบฏขึ้น เฉือนดินแดนที่ตนมีอิทธิพลมาเป็นเขตปกครองของตน แล้วยังยกทัพเข้าโจมตีเมืองหนานจิง สังหารพวกตระกูลซือหม่าเป็นจำนวนมาก และถอดจักรพรรดิอันตี้ออกจากราชสมบัติ แล้วตั้งตนเป็นจักรพรรดิแทน แต่ถัดมาเพียงไม่กี่เดือน หลิวอี้ว์ แม่ทัพที่มีชื่อเสียงอีกคนหนึ่งนำกองทัพขับไล่แม่ทัพหวนสวนออกจากเมืองหนานจิง และยกอันตี้เป็นจักรพรรดิตามเดิม หลิวอี้ว์จึงกลายเป็นผู้ที่มีอิทธิลสูงสุดในราชสำนัก เมื่อปี 420 หลิวอี้ว์ ในฐานะผู้ทรงอำนาจและอิทธิพลสูงสุดในภาคใต้ของจีนถอดจักรพรรดิอันตี้ออกจากตำแหน่ง แล้วตั้งตนเป็นจักรพรรดิแห่งราชวงศ์หลิวซ่ง

ทางด้านราชวงศ์เป่ยเว่ยที่อยู่ทางภาคเหนือของจีน เมื่อปี 471 จักรพรรดิเสี้ยวเหวินตี้ที่ยังทรงเป็นทารกขึ้นครองราชย์ อำนาจปกครองบริหารประเทศจึงไปอยู่ที่พระราชมารดา พระราชมารดาเฝิงไท่โฮ่วได้วางนโยบายศึกษาเรียนรู้วัฒนธรรมชาวฮั่น ซึ่งภายหลังเมื่อจักรพรรดิเสี้ยวเหวินตี้ครองราชย์ด้วยพระองค์เองก็รับนโยบายนี้มาปฏิบัติอย่างจริงจัง โดยมีพระบรมราชโองการให้ใช้ภาษาของชาวฮั่นทั้งการพูดและการเขียน ห้ามสวมเครื่องแต่งกายแบบเดิมของชนเผ่า สนับสนุนชาวชนเผ่าเซียนเปยแต่งงานกับชาวฮั่น

ต่อมา ภายในชนชั้นปกครองของราชวงศ์เป่ยเว่ยเกิดความขัดแย้งที่นับวันรุนแรงขึ้น ทำให้เกิดการแตกแยกในอาณาจักรเป่ยเว่ย ซึ่งเป็นผลดีต่อราชวงศ์ที่อยู่ทางภาคใต้ของจีน แต่ชนชั้นปกครองของราชวงศ์ใต้ไม่มีความเข้มแข็งพอที่จะยกทัพบุกขึ้นไปทางภาคเหนือ ทั้งๆ ที่ราชวงศ์เป่ยเว่ยได้แตกแยกเป็นหลายอาณาจักร เช่น เป่ยฉี และเป่ยโจว

อย่างไรก็ตาม อาณาจักรเป่ยโจวมีพื้นฐานทางการเมืองที่มั่นคงกว่าเพื่อน และได้ค่อยๆ เสริมสร้างกำลังทหารของตนจนเข้มแข็งขึ้นมา ระหว่างนี้ ภายในราชสำนักเป่ยโจว มีการประหัตประหารกันมาโดยตลอด ผลที่สุด อำนาจก็มาตกอยู่ในมือของหยางเจียน ขุนนางเสนาบดีผู้ทรงอิทธิพล

บิดาของหยางเจียนเคยเป็นแม่ทัพและขุนนางชั้นผู้ใหญ่ในราชสำนักเป่ยโจว มีตำแหน่งเป็นเสนาบดี หยางเจียนเกิดในวัดพุทธแห่งหนึ่งในมณฑลส่านซี เมื่อมีอายุ 16 ปี ก็ได้แต่งงานกับกุลสตรีชาวซงหนู ภรรยาเป็นหญิงที่มีความรู้และมีจิตใจเด็ดเดี่ยวเข้มแข็ง เนื่องจากหยางเจียนเคยมีบทบาทสำคัญในการสถาปนาราชวงศ์เป่ยโจว และตนเองก็สืบตระกูลขุนนางตำแหน่งสำคัญ ภรรยาก็เป็นสมาชิกตระกูลขุนนางเก่าแก่ ลูกสาวของหยางเจียนจึงได้หมั้นกับรัชทายาทของจักรพรรดิอู่ตี้แห่งราชวงศ์เป่ยโจว

แต่เมื่อรัชทายาทองค์นี้ขึ้นครองราชย์ทรงพระนามว่าซวนตี้แล้วกลายเป็นทรราชจอมโหด แถมยังเป็นบุรุษเสเพลกินเหล้าหามรุ่งหามค่ำ จนไม่ได้สติทำอะไรเลย มิหนำซ้ำ ยังคิดจะเปลี่ยนตัวมเหสีที่เป็นลูกสาวของหยางเจียน โดยจะตั้งหญิงสาวที่พระองค์หลงรักแทน สิ่งที่เป็นอันตรายร้ายแรงยิ่งกว่านี้สำหรับหยางเจียนคือ จักรพรรดิซวนตี้หวาดระแวงแคลงพระทัยในหยางเจียนว่า จะคิดกบฏชิงราชสมบัติของพระองค์ เพราะหยางเจียนเป็นขุนนางชั้นผู้ใหญ่ที่มีอิทธิพลที่สุดในราชสำนัก อย่างไรก็ดี จักรพรรดิซวนตี้สิ้นพระชนม์อย่างกะทันหันเนื่องจากเส้นโลหิตในสมองแตกก่อนที่จะลงมือจัดการกับหยางเจียน หลังจากนั้น หยางเจียนตั้งตนเป็นจักรพรรดิโดยมีพระนามว่า เหวินตี้ และใช้ชื่อบรรดาศักดิ์ของบิดา คือ สุย เป็นชื่อราชวงศ์ของตน หลังจากนั้น หยางเจียน จักรพรรดิสุยเหวินตี้ยกทัพไปพิชิตราชวงศ์ที่อยู่ในภาคใต้ของจีน ถึง ค.ศ. 589 หยางเจียนสามารถรวมอาณาจักรจีนเข้าด้วยกันอีกครั้งหนึ่ง หลังตกอยู่ในสภาวะแตกแยกเป็นเวลานานเกือบ 300 ปี