Kemerdekaan Indonesia membawa angin segar bagi pendidikan, termasuk di Purbalingga. Sekolah formal di Purbalingga yang awalnya hanya sampai dengan setingkat Sekolah Dasar (SD) yaitu HIS (Hollandsch Inlandsch School) kemudian pada tahun 1945 didirikanlah Sekolah Menengah Pertama (SMP). Sekolah lanjutan tingkat pertama yang berdiri dinamakan SMP Negara di Purbalingga. 

Sekolah tersebut menempati gedung bekas HIS milik pemerintah kolonial Belanda. Adapun HIS kemudian berganti nama menjadi Sekolah Rakyat (SR). Gedung tersebut kini ditempati oleh SMP Negeri 1 Purbalingga. 

Perkembangan pendidikan semakin meningkat di Purbalingga. SMP Negara di Purbalingga memiliki jumlah kelas yang semakin banyak termasuk peserta didik. Pada awal tahun 1960-an, Kelas I (kini disebut kelas VII) sebanyak 3 kelas, kelas II (kini disebut kelas VIII) sebanyak 3 kelas, dan kelas III (kini disebut kelas IX) sebanyak 4 kelas. 

Kondisi yang demikian menjadikan gedung bekas HIS tersebut tidak memenuhi syarat karena kekurangan ruangan kelas dan tenaga pendidik. Oleh karena itu pemerintah pusat melalui SK Menteri Pendidikan Dasar dan Kebudayaan Republik Indonesia Nomor 80/SK/B/III tanggal 30 Juli 1964 dipecahlah SMP Negara di Purbalingga mulai tanggal 1 Agustus 1964 menjadi SMP Negara 1 di Purbalingga dan SMP Negara 2 di Purbalingga. 

Pemecahan ini dijadikan sebagai hari lahir SMP Negeri 1 Purbalingga dan SMP Negeri 2 Purbalingga. Tahun 1964 kemudian diabadikan dalam bentuk sengkalan yaitu Karya Raras Aruming Putra  yang berarti karya yang baik untuk menghasilkan anak bangsa pengharum bangsa dan kini tertulis di SMP Negeri 2 Purbalingga.

SMP Negara 1 di Purbalingga tetap menempati bekas gedung HIS, sedangkan SMP Negara 2 di Purbalingga menempati bangunan baru di Jalan Letkol Isdiman, Bancar, Purbalingga. Perkembangan selanjutnya, SMP Negara 2 di Purbalingga menjadi SMP Negeri 2 Purbalingga. 

Pada tahun 1969-1971 SMP Negeri 2 Purbalingga bekerjasama dengan Batalyon 406 mendirikan kelas jauh di lingkungan batalyon. Kelas jauh tersebut untuk kelas I (kini disebut kelas VII). Kelas jauh yang ada kemudian mengalami perpindahan tempat yaitu ke Desa Jatisaba. 

Gedung yang ditempati kelas jauh SMP Negeri 2 Purbalingga yaitu gedung yang kini digunakan oleh Rupbasan. Kelas jauh yang berada di Desa Jatisaba ini dari tahun 1971-1992. Selepas tahun 1993 kelas jauh ditutup dan digabungkan dengan sekolah induk di Jalan Letkol Isdiman 194 Purbalingga hingga kini.