荀彧率本族人到冀州后．韩馥见其中有不少饱学之士，很是高兴，都被委以重任。荀彧也深得韩馥信赖。后来，袁绍夺取冀州，灭了韩馥。他久闻苟彧的弟弟荀堪以及同郡人辛评、郭图等，都受到礼遇，并被袁绍委以重任。
荀彧虽久闻袁绍大名，但他发现袁绍外宽内忌，不善用人，治军不严、多谋寡断，他预料袁绍终难成就大事。智者择主而事之，荀彧觉得冀州非久居之地，打算另觅英主。更换门庭.不久奋武将军曹操领军击败黑山农民起义军白绕部，朝廷命他为东郡（今河南濮阳市）太守。荀彧知道曹操有雄才大略，通晓兵法，思贤若渴，多谋善断，虽然目前实力不强，但断定他日后终成大业，于是便把自己匡扶汉室的希望寄托在曹操身上。荀彧毅然离开袁绍，于１９１年前往东郡投靠了曹操。曹操见荀彧来投奔军中，十分高兴，同荀彧谈话后，对他评价很高，把他比作汉高祖刘邦的谋士张良。当时荀彧才２９岁，被拜为奋武司马，帮助曹操管理军务，并参与军事策划。