南阳市图书馆正式成立于1956年，它的前身是成立于1924年的南阳县立第一图书馆。古籍部设立于1985年，现存古籍3.3万余册，善本古籍50种5018册（件）。其中入选《国家珍贵古籍名录》5种，入选《河南省珍贵古籍名录》12种，入选《中国古籍善本书目》17种。特色藏品有明《正统道藏》和明万历三十九年赵林泥金写本《高上玉皇本行集经》等。

　　近年来，我馆根据WH/T24-2006《图书馆古籍特藏书库基本要求》，对古籍库房进行改造，先后配置了空调、监控摄像系统、七氟丙烷气体灭火系统、防盗报警系统、除湿机、空气净化器、防紫外线窗帘、防爆防紫外线灯罩、保险柜、自动水灾报警器等；2015年更换2083个函套，制作32组樟木柜子，古籍保存环境和条件得到很大程度地改善。

　　2011年12月河南省人民政府公布为首批“河南省古籍重点保护单位”；2016年3月由国务院下发为第五批“全国古籍重点保护单位”。