南山圖書館的前身是1922年設立的京城府立圖書館(位於首爾中區明洞),是首爾市第一座公立圖書館,建於首爾的中心南山。現今的南山圖書館於1965年新建,是為了建設公共圖書館而設計競賽中選出的建築,並被列為首爾未來遺產之一。該館收藏了包括首爾市指定的三種三冊類型文化財和登錄文化財共計30種227冊等珍貴資料。
圖書館擁有約50萬冊藏書、1萬6千多件非書籍資料,以及800多種連續出版物。此外,圖書館與國立中央圖書館合作,對古籍和東洋書等珍貴資料進行數位存檔,致力於知識資源的記錄、保存和利用。南山圖書館還為首爾市民舉辦各種活動,並發揮其作為市民人文學生活專業資料館的作用。