灵帝中平元年，黄巾起义爆发，曹操被拜为骑都尉，受命与卢植等人合军进攻颍川黄巾军，结果大破黄巾军，斩首数万，随之迁为济南相。济南相任内，曹操治事如初。济南国有县十余个，各县长吏多依附贵势，贪赃枉法，无所顾忌，曹操之前历任国相皆置之不问。曹操到职，大力整饬，一下奏免长吏八名，济南震动，贪官污吏纷纷逃窜，“政教大行，一郡清平”。当时正是东汉政治极度黑暗之时，曹操不肯迎合权贵，遂托病回归乡里，春夏读书，秋冬弋猎，暂时隐居了。
中平五年，汉灵帝为巩固统治，设置西园八校尉，曹操因其家世被任命为八校尉中的典军校尉。中平六年，董卓进入洛阳，废少帝，立献帝刘协，后又杀太后及少帝，自称相国，专擅朝政。曹操见董卓倒行逆施，不愿与其合作，遂改易姓名逃出京师洛阳（今河南洛阳东北）。
曹操到陈留后，“散家财，合义兵”，组织起一支五千人的军队，讨伐董卓。献帝刘协自被董卓劫至长安后，一直处于颠沛流离之中，建安元年七月，献帝终于回到洛阳。洛阳经董卓之乱，已是一片废墟，百官没有地方居住，“披荆棘，依丘墙间”。洛阳也没有粮食，“州郡各拥强兵，而委输不至，群僚饥乏，尚书郎以下自出采稆，或饥死墙壁间”。