灵帝中平元年,黄巾起义爆发,曹操被拜为骑都尉,受命与卢植等人合军进攻颍川黄巾军,结果大破黄巾军,斩首数万,随之迁为济南相。济南相任内,曹操治事如初。济南国有县十余个,各县长吏多依附贵势,贪赃枉法,无所顾忌,曹操之前历任国相皆置之不问。曹操到职,大力整饬,一下奏免长吏八名,济南震动,贪官污吏纷纷逃窜,“政教大行,一郡清平”。当时正是东汉政治极度黑暗之时,曹操不肯迎合权贵,遂托病回归乡里,春夏读书,秋冬弋猎,暂时隐居了。
中平五年,汉灵帝为巩固统治,设置西园八校尉,曹操因其家世被任命为八校尉中的典军校尉。中平六年,董卓进入洛阳,废少帝,立献帝刘协,后又杀太后及少帝,自称相国,专擅朝政。曹操见董卓倒行逆施,不愿与其合作,遂改易姓名逃出京师洛阳(今河南洛阳东北)。
曹操到陈留后,“散家财,合义兵”,组织起一支五千人的军队,讨伐董卓。献帝刘协自被董卓劫至长安后,一直处于颠沛流离之中,建安元年七月,献帝终于回到洛阳。洛阳经董卓之乱,已是一片废墟,百官没有地方居住,“披荆棘,依丘墙间”。洛阳也没有粮食,“州郡各拥强兵,而委输不至,群僚饥乏,尚书郎以下自出采稆,或饥死墙壁间”。