Pada tahun 1944 – 1945 (jaman sebelum clas II) berdirilah Sekolah Menengah Pertama khusus Putri (SMPP), yang awal berdiri berlokasi di Jalan Sabirin Yogyakarta (sekarang lokasi SMU Stella Duce) dipimpin oleh Bp. Markoes Suparto. Estafet pimpinan sekolah dilanjutkan oleh Bp. Samadi kemudian dipercayakan kepada Bp. Dwidjo Hudjoyo. Selama kepemimpinan Bp. Dwidjo, SMPP mengalami kesulitan mendapatkan lokasi kegiatan yang sesuai dengan laju perkembangan dan kiprah pengabdiannya.Tempat kegiatan terpaksa berpindah-pindah beberapa kali, dari Jl. Sabirin ke Jl. Kaliurang (sekarang lokasi SMU 6 Yogyakarta) kemudian pindah ke Dagen (sekarang lokasi SMEA Negeri 3) dan akhirnya pindah ke bekas asrama MILITER ACADEMY (cikal bakal AKABRI) yang sebelumnya sebagai asrama tentara Dai Nippon di Jl. Djuwadi 4 Yogyakarta.
Selanjutnya Bp. Dwidjo menyerahkan kepemimpinan SMPP kepada Bp. R. Soemadi Gondoatmojo. Di bawah kepemimpinan beliau SMPP semakin meningkat kiprah baktinya dan pada tanggal 23 Juli 1951 pemerintah menambah lingkup siswanya yang semula hanya siswa putri menjadi siswa putra dan putri, dengan nama SMP Negeri V Yogyakarta. Sampai dengan tahun 1959 SMP Negeri V tetap di bawah pimpinan Bp. Soemadi. Karena Bp. Soemadi diangkat sebagai pengawas, beliau menyerahkan kepemimpinan kepada Bp. Hadi Sajogo dan kemudian pada 28 Juni 1971, beliau menyerahkan kepemimpinan kepada Bp. Drs. Soerjadi.
Pada tanggal 17 Juli 1974, di saat SMP Negeri V yang berlokasi di Jl. Wardani dan dipimpin oleh Bp. R.D. Soeprapto, SMP Negeri IV diintegrasikan “Manunggal” dengan SMP Negeri V Yogyakarta yang kemudian beralamatkan di Jl. Wardani 1 Yogyakarta.
SMP Negeri V (baru) ini menjadi sekolah besar ditilik dari jumlah siswa yang tertampung dalam 33 kelas. Karena kesulitan pengadaan ruang guru, jumlah besar itu disederhanakan menjadi 30 kelas sehingga masing-masing parallel kelas terdapat 10 kelas. Bertepatan dengan pengintegrasian tersebut, pemerintah membangun SMP Negeri IV yang baru di Jl. Wates Yogyakarta. Pada tahun 1980 masih di bawah pimpinan Bp. Drs. Soerjadi atas kebijaksanaan Kantor Wilayah Depdikbud Prop. DIY, SMP Negeri V berubah nama (penulisannya) menjadi SMP Negeri 5 Yogyakarta.