Cuối thời Đông Hán, Hán Linh Đế Lưu Hoành bỏ bê triều chính, để hoạn quan làm càn. Nổi bật nhất trong số các hoạn quan là Trương Nhượng. Hán Linh Đế vì cả nể các hoạn quan mà phong cho cha, anh, em họ làm quan khắp các châu quận. Những người này ra sức vơ vét của cải của dân chúng.
Hán Linh Đế còn buông lỏng kỷ cương, không dùng người tài. Nghe theo lời khuyên của các hoạn quan Trương Nhượng và Triệu Trung, Linh Đế tăng thuế khóa thêm 10 đồng trên mỗi mẫu ruộng khiến nhân dân phải đóng góp thêm nặng nề, nhằm có thêm tiền xây cất cung điện.
Ngoài ra, chính quyền nhà Đông Hán cong cho mua bán quan chức, để tham nhũng lan tràn, nạn đói, lũ lụt xảy ra khắp nơi khiến Trương Giác và những người nông dân theo Đạo giáo cho rằng hoàng đế đã mất quyền cai trị. Họ cho rằng cách duy nhất thoát khỏi cảnh này là phải đứng lên khởi nghĩa.
Năm 184, cuộc khởi nghĩa Khăn Vàng do Trương Giác lãnh đạo bùng nổ. Tào Tháo cùng các quân phiệt địa phương cùng các tướng trong triều đình đàn áp thành công, nên được Hán Linh Đế phong làm Điển quân hiệu uý trong triều.
Tuy nhiên, dù các thủ lĩnh của cuộc khởi nghĩa Khăn Vàng sớm qua đời nhưng cuộc khởi nghĩa khăn vàng không vì thế mà chấm dứt. Ở giai đoạn đỉnh cao, khởi nghĩa có tới 2 triệu người tham gia. Cuộc khởi nghĩa rải rác đến năm 205 thì chấm dứt.
Trong gia đoạn đó, trước khi liên minh đánh Đổng Trác tan vỡ, Tào Tháo đã mang tàn quân về quê, ra sức chiêu nạp hào kiệt. Khi đó dù Trương Giác đã chết nhưng lực lượng Khăn Vàng vẫn còn thế lực khá mạnh, có hơn 10 vạn người tụ tập ở Hắc Sơn, chiếm lĩnh Đông Quận, triều đình chưa dẹp được.
Năm 191, Tào Tháo mang quân đánh nhau với quân Khăn Vàng tại Hắc Sơn. Quân khởi nghĩa tuy đông nhưng ô hợp, bị Tào Tháo dùng kế đánh bại, song lực lượng còn mạnh.
Năm 192, quân khởi nghĩa tổ chức phản công. Tào Tháo dùng số quân nhỏ cố thủ ở phía đông Vũ Dương, tự ông mang quân chủ lực tập kích căn cứ Đông Quận của địch. Ông đánh chiếm Đông Quận và đây trở thành nơi căn cứ đầu tiên của Tào Tháo.
Không lâu sau, quân khởi nghĩa từ Thanh Châu tấn công Duyện Châu, giết chết thứ sử Lưu Đại. Theo lời đề nghị của Bào Tín, Tào Tháo mang quân đến cứu Duyện Châu. Nhân sĩ ở Đông quận là Trần Cung đến theo Tào Tháo, thuyết phục được các thủ hạ của Lưu Đại nhất trí tôn Tào Tháo thay Lưu Đại quản lý Duyện Châu. Ông cùng quân Khăn Vàng quyết chiến tại Thọ Dương.
Bào Tín giao chiến bị tử trận. Tào Tháo mang 1000 quân tập kích doanh trại địch nhưng quân Khăn Vàng đã đề phòng khiến ông suýt bị bắt sống. Thấy không thể dùng chiến thuật đánh nhanh, Tào Tháo đổi hướng, đánh chắc từng phần. Ông áp dụng chiến thuật tiêu hao từng bước, quân Khăn Vàng phải lùi dần. Sau cùng, Tào Tháo dồn quân địch vào Tế Bắc và bao vây.
Khi đó phía sau lưng quân Khăn Vàng là Thanh Châu và Ký Châu do Viên Thiệu chiếm giữ. Sau một thời gian, quân Khăn Vàng bị tuyệt lương, không còn đường chạy nên phải đầu hàng. Tào Tháo thu hàng 30 vạn người, chọn ra 10 vạn người đưa vào quân đội của mình. Từ đó lực lượng của họ Tào mạnh lên đáng kể. Việc ông dẹp được loạn Khăn Vàng ở nơi đây cũng là một công lao to lớn với triều đình.
Tào Tháo (155-220) là nhà chính trị, quân sự kiệt xuất cuối thời Đông Hán và đầu thời Tam quốc trong lịch sử Trung Quốc. Ông là người đặt nền móng hình thành nhà Tào Ngụy thời Tam quốc.
Không chỉ là đệ nhất gian hùng kim cổ có một, Tào Tháo còn là người có công lớn trong việc dẹp loạn Khăn Vàng và Đổng Trác, đánh bại lần lượt các chư hầu như Lã Bố, Viên Thiệu để thống nhất phương Bắc của Trung Quốc bấy giờ.