今玉门境域在新石器晚期就有人类生活的痕迹。商至战国为西羌地。秦至汉初为月氏、乌孙国和匈奴地。西汉元狩二年(公元前121年)始置玉门县,隶酒泉郡。东晋十六国时西凉置会稽郡。南北朝时北魏置玉门郡,后屡有变更。清乾隆二十四年(公元1759年),复置玉门县 。
玉门是新起的城市。之前属于酒泉郡,后来北魏是玉门郡,清朝的时候设县