玉門關，始置於漢武帝開通西域道路、設置河西四郡之時，因西域輸入玉石時取道於此而得名。漢時為通往西域各地的門户，故址在今甘肅敦煌西北小方盤城。元鼎或元封中（公元前116年一前105年）修築酒泉至玉門間的長城，玉門關當隨之設立。
玉門關的設立，始自西漢武帝時，距今已有2千多年的歷史。秦漢以來，好戰的匈奴對漢民族威脅很大。漢初，匈奴東敗東胡，西逐大月氏，佔據河西，並以河西為基地，屢犯漢境。漢王朝開始曾對匈奴採取和親政策，希圖換取暫時的安寧。漢武帝時，放棄了和親政策，對匈奴發動了大規模的軍事反擊。
元狩二年，驃騎將軍霍去病率兵西征，沉重打擊了匈奴右部。同年，漢分河西為武威、酒泉兩郡。元鼎六年，又增設張掖、敦煌兩郡，同時建玉門關和陽關。從此，玉門關和陽關就成為西漢王朝設在河西走廊西部的重要關隘。
玉門關，俗稱小方盤城。現存關城呈方形，四周城垣保存完好，為黃膠土夯築，開西北兩門。城堡平面呈方形，東西長24米，南北寬26.4米，總面積630多平方米。城北坡下有東西走向的一條大車道，是歷史上中原和西域諸國來往過乘及郵驛之路。現存城牆高9.7米，上寬約3米，牆基最寬處5米，上有城牆，城東南角有馬道可以登頂。
