山西临汾隋开皇十六年(596年),置汾州,永安属之。开皇十八年(598年),改汾州为吕州,改永安为霍邑。大业三年(607年)罢邑州,霍邑属晋州。大业十三年(617年),太原留守李渊起兵反隋。隋将宋老生率军3万守霍邑。霍邑之战,宋老生兵败身亡,唐兵长驱直入,攻陷隋都长安。隋恭帝元年(617年)置霍山郡,辖霍邑、赵城、汾西、灵石4县。
隋朝的霍邑就是现在山西省霍县——现在已经升为霍州市(县级市)