Sau khi Hiếu Văn Đế nhà Bắc Nguy dời đô về Lạc Dương đã từng hai lần điều quân đánh Nam Tề nhưng đều không thành công do sự kháng cự của nhân dân Nam Tề. Năm 499, Nam Tề cho quân đánh Bắc Nguỵ. Nguỵ Hiếu Văn Đế đang ốm mang quân chống lại, đánh lui được quân Tề. Không lâu sau, Hiếu Văn Đế bị bệnh chết. Sau khi HIếu Văn Đế chết, Nguỵ Tuyên Võ Đế Nguyên Khác nối ngôi, Bắc Nguỵ bắt đầu suy vong. Đến khi Nguỵ Hiếu Minh Đế lên ngôi, vì còn quá nhỏ tuổi, mẹ của ông ta là Hồ Thái hậu vào triều thính chính. Hồ Thái hậu vốn là người ngang ngược xa xỉ. Bà ta tin Phật giáo, cho rằng Phật pháp có thể làm giảm bớt tội lỗi của mình. Tầng lớp thống trị Bắc Nguỵ còn sử dụng rất nhiều nhân công, tiền của, mở rộng các hang đá, xây dựng tượng Phật, Trước khi xây dựng kinh đô Lạc Dương họ đã dùng thời gian hơn 30 năm mở mang một loạt các hang động ở Vân Cương (nay là núi Võ Chu thành phố Đại Đồng tỉnh Sơn Tây), có đến khoảng 10 vạn tượng Phật lớn nhỏ. Trong vòng 24 năm, để mở mang các hang động, họ đã dùng đến hơn 80 vạn nhân công. Các hang động và tượng Phật này chứng tỏ trình độ nghệ thuật điêu khắc cao của nhân dân Trung Quốc thời cổ, nhưng nó cũng là gánh nặng cho nhân dân lao động Trung Quốc lúc bấy giờ.
Khởi nghĩa sáu trấn
Ở vùng biên giới phía bắc, Bắc Nguỵ đã thiết lập 6 trấn, cử tướng sĩ tới phòng thủ. Năm 523, lúc đầu Phá Lục Hàn Bạt Lăng (Phá Lục Hàn là họ) người Hung Nô ở trấn Ôc Dã (nay là bắc Ngũ Nguyên Nội Mông Cổ) mang quân giết tướng trấn, phát động khởi nghĩa. Binh lính ở 5 trấn còn lại cũng nô nức hưởng ứng. Thế lực chống lại Bắc Nguỵ ngày càng lớn. Vì thế, Bắc Nguỵ câu kết với tộc người Nhu Nhiên ở phương bắc cùng đàn áp. Cuộc khởi nghĩa của binh lính lục trấn thất bại.
Để phòng binh lính sáu trấn phản kháng, chính quyền Bắc Nguỵ đưa hơn 20 vạn binh sĩ thất bại trong khởi nghĩa về Kỳ Châu, Định Châu, Doanh Châu (trị sở nay đều ở Hà Bắc). Những binh lính này phải làm nô dịch cho triều Nguỵ, ở Kỳ Châu họ lại châm ngòi cho cuộc khởi nghĩa khác do Cát Vinh người tộc Tiên Ty cầm đầu, tiến công Doanh Châu. Chính quyền Bắc Nguỵ cử Chương Vũ vương Nguyên Nhung làm Đại tư mã, Quảng Dương vương Nguyên Thâm ( có hai người cùng là Nguyên Thâm, chữ Thâm viết khác nhau) làm đại đô đốc, đưa quân đàn áp. Bọn quy tộc này thì chỉ biết uống rượu, chơi bời chứ có biết đánh chác gì đâu. Quân khởi nghĩa Cát Vinh đến trấn Bác Dã ( nay là trung bộ tỉnh Hà Bắc), đánh lén vào đại bản doanh của Nguyên Nhung. Nguyên Nhung không chú ý phòng bị, bị quân khởi nghĩa giết chết. Nguyên Thâm nghe nói Nguyên Nhung bị giết, rút về Định Châu, cũng bị kỵ binh của Cát Vinh bắt làm tù binh. Cát Vinh đem quân khởi nghĩa các lộ hợp làm một, nói là có đến trăm vạn, chuẩn bị tiến quân về Lạc Dương, thanh thế rất lớn. Lúc này, ở Tú Dung (nay là tỉnh Sơn Tây) có tù trưởng một bộ lạc là Nhĩ Chu Vinh trong tay có hơn 8000 kỵ binh, chuyên môn đối địch cùng với quân nông dân. Hiếu Minh Đế nhàBắc Nguỵ đã lợi dụng binh lực của Nhĩ Chu Vinh đối phó với Cát Vinh.
Cát Vinh cho rằng Nhĩ Chu Vinh binh mã ít, dễ đối phó. Ông ta đem binh sĩ dàn trận trên mấy chục dặm, chuẩn bị đánh Nhĩ Chu Vinh. Không ngờ Nhĩ Chu Vinh đã cho quân mai phục ở trong núi, đưa quân tinh nhuệ đột kích, lại tập kích trước sau đánh cho quân của Cát Vinh tan tác,. Quân khởi nghĩa thất bại, bản thân Cát Viuh cũng bị giết hại. Sau khi quân khởi nghĩa Cát Vinh thất bại, nội bộ triều Bắc Nguỵ cũng sinh ra mâu thuẫn lớn.
Bắc Nguỵ chia rẽ
Cao Hoan không chỉ có một tên Tiên Ty là Hạ Lục Hỗn, còn lấy hậu của Lâu Chiêu Quân con một quý tộc Tiên Ty làm vợ. Ông ta thực ra là một người Hán đã Tiên Ty hoá. Năm Bắc Nguỵ Chính Quang thứ năm triều Bắc Nguy (524), sáu trấn ở phương bắc cùng nhân dân các dân tộc đồng loạt khởi nghĩa. Cao Hoan cho rằng thời cơ đã đến vốn sẵn có dã tâm cùng tham gia quân khởi nghĩa với Phá Lục Hàn Bạt Lăng, Đỗ Lạc Chu, Cát Vinh. Trong nội bộ quân khởi nghĩa có một đảng bí mật, lăm le chờ thời cơ để phát triển thế lực riêng. Về sau, họ thấy thế lực của tù trưởng Khiết Hồ Nhĩ Chu Vinh mạnh bèn cùng với bọn U Cảnh, Đoàn Vinh trong đảng bí mật bỏ hàng ngũ nghĩa quân, đầu hàng Nhĩ Chu Vinh, được Nhĩ Chu Vinh rất nhanh chóng tín nhiệm giao chức đô đốc (vệ đội trưởng của Nhĩ Chu Vinh). Năm Vĩnh An thứ ba (530) Hiếu Trang Đế lừa giết chết Nhĩ Chu Vinh ở Lạc Dương, Cao Hoan lợi dụng lúc quân Nhĩ Chu Vinh hỗn loạn, dụ dỗ được hơn 2 vạn quân khởi nghĩa sáu trấn của Nhĩ Chu Vinh về theo mình, đưa họ về ở Hà Bắc, đây chính là hơn 20 vạn binh dân áu trấn dần trở thành lực lượng quân sự và chính trị cho Cao Hoan sau này.
Năm sau, tức năm Phổ Thái nguyên niên nhà Bắc Nguỵ, Cao Hoan đưa người về Kỳ Châu (nay là huyện Kỳ, Hà Bắc), , lung lạc các địa chủ thế tộc ở đây, lợi dụng sự xa cách về dân tộc, kích động chống lại họ Nhĩ Chu, việc khuấy động thế lực đột nhiên tăng mạnh. Tháng 3 năm Phổ Thái thứ hai (532) Nhĩ Chu Triệu mang 20 vạn đại quân tiến đánh Cao Hoan. Cao Hoan dùng kế dĩ dật đãi lao, lấy ít thắng nhiều, làm quân Nhĩ Chu tổn thất nặng, thừa thắng tiến về kinh đô Lạc Dương, trở thành một thế lực khống chế chính quyền của Thái thượng hoàng Bắc Nguỵ. Tháng 7 năm ấy, Cao Hoan đánh Tấn Dương, diệt tận gốc thế lực Nhĩ Chu. Ở Tấn Dương, Cao Hoan cho xây dựng phủ đại thừa tướng, định triều chính. Từ đó về sau, Cao Hoan xưng đế ở phương bắc rồi cứ theo mà mơ luôn cả Tấn Dương. Tấn Dương trở thành Bắc Nguỵ là trung tâm chính trị thực tế của Bắc Tề, sử gọi là “Bá Phủ”.