Kegiatan layanan perpustakaan dimulai sejak tahun 1974 yang berlokasi di area alun – alun kota dan berada dibawah naungan Sekretariat Departemen Pendidikan dan Kebudayaan. Pada tahun 1983 masuk di Bagian Kesejahteraan Rakyat pada Sekretariat Pemerintah Daerah Tk. II Pamekasan yang berlokasi di Jl. Panglima Sudirman No. 4 Pamekasan. Selanjutnya, pada tahun 1986 berada di Bagian Hukum pada Sekretariat Pemerintah Daerah Tk. II Pamekasan.
Pembinaan kegiatan layanan perpustakaan dilakukan oleh Badan Pembina Tk. II yang diketuai oleh Kepala Kantor Pendidikan dan Kebudayaan dengan Kepala Bagian Kesejahteraan Rakyat sebagai sekretaris.
Sejak adanya Otonomi Daerah, Perpustakaan Umum berada dibawah naungan Dinas Informasi dan Komunikasi Kabupaten Pamekasan yakni pada Subdin Hubungan Masyarakat. Selanjutnya, Perpustakaan Umum disatukan dengan Kantor Arsip Daerah sehingga menjadi Kantor Perpustakaan Umum dan Arsip Kabupaten Pamekasan yang berlokasi di Jalan Jokotole No. 55 Pamekasan. Terakhir, sesuai Peraturan Daerah Nomor 14 Tahun 2008 levelnya naik menjadi Dinas Perpustakaan dan Kearsipan.