Perpustakaan Universitas Jenderal Achmad Yani Yogyakarta merupakan penggabungan dari Perpustakaan Sekolah Tinggi Ilmu Kesehatan (STIKES) Jenderal Achmad Yani Yogyakarta dan Perpustakaan Sekolah Tinggi Manajemen Informatika dan Komputer (STMIK) Jenderal Achmad Yani Yogyakarta sesuai Surat Keputusan Kementerian Riset dan Teknologi Pendidikan Tinggi Nomor 166/KPP/I/2018 tanggal 2 Februari 2018 dan telah diresmikan oleh Kepala Staf TNI Angkatan Darat (KASAD) pada tanggal 26 Maret 2018.
Perpustakaan STMIK Jenderal Achmad Yani Yogyakarta atau yang biasa disebut STMIKayani Yogyakarta tidak lepas dari sejarah berdirinya Kampus STMIK Jenderal Achmad Yani Yogyakarta pada tanggal 2 Januari 1996 berdasarkan Mendikbud No. 73/D/O/1996 dengan nama Akademi Manajemen Informatika dan Komputer Kartika Yani (AMIKayani). Saat itu Kampus AMIKayani menempati Gedung Lippo lantai IV Yogyakarta, namun pada tahun 1998 lokasi kampus pindah ke Jl. Beo No. 35, Demangan Baru, Sleman, Yogyakarta termasuk fasilitasnya salah satunya yakni perpustakaan. Pada tanggal 29 Juni 2015 Kampus STMIK Jenderal Achmad Yani Yogyakarta pindah lagi ke kampus baru di Jalan Ringroad Barat, Gamping, Sleman, Yogyakarta dan perpustakaan menempati ruangan lantai 1 di gedung utama. Perpustakaan STMIK Jenderal Achmad Yani Yogyakarta selanjutnya disebut Perpustakaan Kampus 1 Universitas Jenderal Achmad Yani Yogyakarta dengan koleksi yang fokus pada keilmuan manajemen informatika dan komputer, ekonomi, dan sosial.
Sementara Perpustakaan STIKES Jenderal Achmad Yani Yogyakarta berdiri bersamaan dengan berdirinya Kampus STIKES Jenderal Achmad Yani Yogyakarta pada tanggal 15 Juni 2006 yang beralamat di Jl. Kapten Hariyadi, Sinduharjo, Ngaglik, Sleman, Yogyakarta. Satu tahun kemudian dengan telah selesainya pembangunan kampus terpadu di Jl Ringroad Barat, Ambarketawang, Gamping, Sleman, Yogyakarta tepatnya pada tanggal 4 September 2007, maka kegiatan perkuliahan pindah ke kampus baru dan perpustakaan menempati ruangan di lantai 2. Perpustakaan STIKES Jenderal Achmad Yani Yogyakarta selanjutnya disebut Perpustakaan Kampus 2 Universitas Jenderal Achmad Yani Yogyakarta. Koleksi yang dimiliki fokus pada keilmuan bidang kesehatan.
Letak perpustakaan yang strategis yakni berada di pusat pembelajaran memudahkan pemustaka untuk datang ke perpustakaan. Layanan perpustakaan menggunakan sistem terbuka yaitu membebaskan pemustaka langsung ke tempat koleksi. Pelayanan yang diberikan meliputi sirkulasi, referensi, terbitan berkala, Jenderal Achmad Yani Corner, kelas literasi informasi, dll. Koleksi yang dimiliki meliputi buku-buku teks, referensi (rujukan) terbitan dalam dan luar negeri, e-book, karya tulis ilmiah, CD/VCD dan kaset praktik-praktik kesehatan, laporan penelitian, jurnal, e-journal, majalah, dan surat kabar. Selain koleksi yang lengkap, perpustakaan juga menawarkan fasilitas yang sangat representatif diantaranya area baca (meja diskusi, meja sekat, & meja lesehan), ruang karya ilmiah, ruang literasi informasi, JAY corner, loker, air counditioner (AC), komputer dan internet gratis, WIFI, dll.
Perpustakaan Universitas Jenderal Achmad Yani Yogyakarta dipimpin oleh seorang pustakawan yang disebut Kepala Perpustakaan. Bertanggungjawab langsung kepada Rektor dan atau disupervisi oleh Wakil Rektor Bidang Akademik (Warek I).