榆林塞就在現今的陜西省榆林。戰國時期，北方邊塞之地多植榆為圍柵。秦統一中國，北逐匈奴，收復河套地區后，在這里栽植很多榆樹，榆林塞之名大概由此而來。以地處榆溪（今清水河）之畔，亦稱榆溪塞，成為秦北邊一戍守地。隋時以此地為中心筑起長城，遂成為隋長城的要塞。
　　 明永樂初，為防止蒙古勢力侵擾，在此置寨，正統年間建堡，成化七年（1471）再置衛，同時延綏巡撫都御史徐子俊征發民工在隋長城基礎上修筑榆林邊墻（即長城）千余里，以增強這里的防務。次年，在榆林堡北擴建新城，稱北城，舊堡稱南城。榆林城已具相當規模。九年，長城九邊之一的延綏鎮（相當于現在的大軍區）治所徒遷至榆林城。從此，榆林成為明代邊防重地。后來，榆林城又經擴建。由于戰火，榆林古城墻今多已不復存，僅可見遺跡。現在的榆林城是后來建的新城。
　　 榆林，地居黃河河套之南，北接內蒙的鄂爾多斯，兩傍黃河支流無定河的上源榆溪。東扼雁朔（晉北），西衛寧夏，南蔽秦隴（關中和隴東），戰略地位重要。歷史上明朝最重視這里的防務。
　　 明代，自成祖以后，國勢逐漸轉弱，蒙古騎兵不斷南下侵擾，先時著重在長城中段分頭進擾，后來竟深入河套地區，蹂躪陜北和山西。成化年間，榆林一帶的長城就因此修筑起來。當年，榆林鎮防守范圍，東起黃河邊的黃山川，西至定邊營（今陜西定邊縣花馬池）綿延600公里，墩堡墻臺東西連絡，橫截河套之口。內部又修筑夾道，便于互相交通和聯系，守備嚴密，在軍事防御上發揮過重要作用。
　　 回顧榆林的歷史，北宋時，榆林是宋與西夏反復爭戰之地，城南榆溪河畔的羅兀城就曾是兩軍交鋒廝殺的戰場。
　　 明代中葉以后，明軍與蒙古兵常在這里交戰。
　　 天順年間，蒙古阿羅公然出入河套駐牧，并常引諸部內犯。
　　 弘治十三年（1500），蒙古韃靼火篩吉囊部居然入居河套，犯延綏神本堡。第二年又犯花馬池，明都指揮五泰戰死。火篩部又犯固原，大掠韋州、環縣、靈州（今寧夏靈武）等地。十八年，火篩諸部又圍靈州，入花馬池，掠韋州、環縣。后來在正德、嘉靖年間，火篩部繼續犯過，陜北、河東地區，每年遭受蹂躪。
　　 古代的榆林不但是軍事重地，也是邊疆貿易的中心和漢族與西北少數民族文化交會和交流的地方。附近有不少與此有關的名勝古跡。榆林城北約5公里有鎮北臺，是明萬歷三十五年（1607）為了保護蒙漢交易市場而建立的。臺高四層，周長130米，面積5O50平方米，是長城沿線規模最大，氣勢最為磅礴的墩臺。東連長城，環繞紅山，控南北咽喉，鎖長城要口，巍峙于鄂爾多斯毛烏素沙漠之邊，儼然是一座巨大屏障。登臨臺頂眺望，榆林城景，盡收眼下。
　　 離鎮北臺西不遠，沿清水河岸有名勝紅石峽，由紅砂巖構成，故名。兩側巖壁勢如刀削，高10余米．鑿石為窟，共44窟。據碑石記載，此處曾是宋元間一所名剎，叫紅山寺，系由西夏二國王的陵墓建成。隨著歷史的變遷，今人稱之紅石峽。石壁上有許多古人題字題詞。幾百年來，紅石峽曾名冠邊塞，不少達官文人來到榆林，必先到這里吟詩作賦，偶有佳句麗章，便把它鐫刻在石崖上。現為眾人喜愛的游覽勝地。
　　 榆林城東6公里處又有一座開鑿在山丘峭壁上的萬佛寺石窟，窟中存上千尊浮雕石像和優美的壁畫，至今年代無考，有相當高的藝術價值。無定河邊還有十一世紀西夏王朝開鑿的懸空寺，寺廟懸在半山腰間，渾然無成，險峻秀美，具有建筑藝術和考古的價值。
　　 現在榆林有公路北通內蒙古伊盟，東通山西，西至寧夏，南達關中，來往方便。這里仍是陜北的交通要沖和戰略要地。