文山區北、東、南三面環山，西邊面水，景美與木柵之間也有丘陵相隔。
早期的道路是沿著河邊興築，如目前的羅斯福路、景文街往新店(鐵道及公路)及木柵路往深坑，木柵路大多沿著景美溪，因而路徑蜿蜒。後來建築設備及技術發達，就把低矮度的丘陵剷除，使馬路相通，如興隆路原來只到三段再興學校前，後來把丘陵切除，變成興隆路四段通往木柵，因此興隆路三段與四段的分界不是在木柵路，而是往前約百公尺的再興學校。萬芳路也是將丘陵剷除，由興隆路與木柵路相通。
有些道路是直接越過山丘，如萬芳社區的萬美街，由萬芳路越過140高地連接辛亥路。如果丘陵太高、太陡無法剷除，也無法橫越，那就要挖築山洞貫穿丘陵，形成隧道。
文山區山多，因此隧道也很多，隧道數量和橋樑一樣，也是台北第一。
目前在文山區的隧道有(如上圖)：
(一)福爾摩莎高速公路(國道三號)木柵隧道：在木柵交流道與新店交流道之間。
(二)國道3號台北聯絡道(國道3甲)台北隧道：由木柵交流道通往辛亥路。
(三)信義快速道路文山隧道：由木柵路通往信義計畫區。
(四)莊敬隧道：由軍功路通往臥龍街(即將更名為和平東路四段) 。
(五)捷運文湖線隧道：穿越中埔山東峰，由捷運辛亥站通往麟光站。
(六)辛亥隧道：穿越中埔山，由景美通往大安區(辛亥路三段與四段之間) 。
(七)懷恩隧道：穿越景美山，由景美通往木柵(辛亥路五段與六段之間) 。
(八)興福隧道：穿越芳蘭山，由福興間通往芳蘭路之軍用隧道。
