主要的山脉就是两条。宁镇山脉，老山山脉。

宁镇山脉是江苏省主要山脉，西起南京市江宁区淳化街道青龙山，东止常州市新北区孟河镇黄山，绵延100公里，是南京、镇江间低山丘陵的总称，略呈东西向北突出的弧形山脉，耸峙于长江南岸。

高空下的宁镇山脉犹如一条盘龙一般，匍匐在南京市东侧，背隔长江，是南京的一个屏障，这也许就是古代王朝定都这里的一个原因。其中南京市钟山（紫金山）头陀岭为最高峰，海拔448.2米，为整个宁镇山脉的最高峰。

老山山脉位于南京市境内，山势呈西南——东北走向，且西段较高。有3座山峰高度在400米以上，其中龙洞山海拔442.1米。龙洞山以东，山体分为南北两列，南列由西华山、馒头山、大马山等山峰组成，北列由太平山、钓鱼台等山峰组成。山体由震旦系灰岩、千枚岩及寒武系灰岩、白垩系砂岩等构成。