士林區原為平埔族「麻少翁社」居住地，舊稱「八芝蘭」，係譯自平埔族語(Pattsiran)，意思是「溫泉」。

「芝蘭」在漢人典籍中最早的記載可溯自雍正2年(1724年)黃叔敬《台海使槎錄》〈藩俗六考〉中：清代地方行政區名叫做「芝蘭堡」。

雍正元年(1723年)，在大甲溪以北設淡水廳，下設竹塹與淡水兩堡，下又有18莊，其中一莊名為八芝蓮林莊，即今日之士林地區。乾隆11年(1746年)「八芝蓮林莊」改為「八芝連林莊」，實為不同之音譯。乾隆29年(1764年)以後方改稱「八芝蘭」或「芝蘭」。

日本治臺後，明治30年(1897年)改正地方制度，縣下去支廳，改設辦務署，遂有「臺北縣士林辦務署」，下轄芝蘭一堡。「士林」之名稱自此正式出現。這是因為當時士林區普設私塾、社學、義塾，文風鼎盛，遂以「士子如林」而改稱為「士林」。