Pertama kali SMA 2 Tegal dibuka pada bulan Januari 1978 dengan nama SMA Persi (Persiapan Negeri). Ketika ruang kelas belum sempurna, sementara menempati SMA 1. Kepala Sekolah pertama ialah Bpk. Drs. Much. Muchyi.
Sekolah ini dinegerikan pada tanggal 6 Nopember 1980 oleh Kepala Kantor wilayah Depdikbud Provinsi Jawa Tengah Bpk. Drs. Kustidjo. Setelah dinegerikan kemudian ditetapkan Bpk. Ronas Haroen, BA Sebagai Kepala Sekolah.
Pada waktu itu baru ada Ruang belajar yang membujur dari arah barat ke Timur ( yang sekarang dari ruang laboratorium Komputer dan ruang BK) yang waktu itu digunakan untuk siswa kelas III sedang kelas II dan kelas I masuk siang, kelas I menempati ruang sendiri dan kelas II dititipkan di SMP Negeri 6 [1].
Kepemimpinan Bpk. Ronas Haroen, BA dikenal sebagai sosok pimpinan yang disiplin. Beliau sangat tegas dalam memberikan teguran baik terhadap siswa maupun terhadap guru dan karyawan. Menurut penuturan guru-guru senior beliau baru akan masuk ruang kepala sekolah setelah pukul delapan setelah kondisi kelas benar-benar kondusif. Belau juga sering memasuki kelas yang kosong apabila guru-guru terlambat.
Disamping ketegasannya, beliau juga sangat bijaksana terutama apabila ada guru yang minta ijin untuk suatu keperluan yang dapat dipertanggungjawabkan. Sebagai contoh ketika ada guru yang mohon ijin secara lisan maka beliau akan mengakatan ” ya , ya” sebelum guru tersebut selesai mengutarakan alasan permohonan ijinnya[2].
Bpk. Ronas Haroen, BA memimpin Sekolah ini kurang lebih selama 10 tahun dan dalam kepemimpinan beliau sekolah ini mengalami perkembangan kemajuan yang cukup pesat. Sekolah ini meluluskan pertama kali pada tahun pelajaran 1980/1981
Setelah kepemimpinan Bpk. Ronas Haroen, BA kemudian digantikan oleh Bpk Sarbini, BA. Beliau memimpin sekolah ini dengan gaya kepemimpinan yang santai, maklum beliau sering sakit sampai-sampai di ruang kepala sekolah disediakan tempat berbaring untuk beliau, sehingga prestasi sekolah semakin menurun [3].
Beberapa kali pergantian kepala sekolah kelihatannya belum mampu mengangkat kembali prestasi sekolah ini kemudian menurut pengamatan kami ketika sekolah ini dibawah pimpinan Bpk Wiyarna, MPd. baru nampak ada beberapa indikator ke arah peningkatan baik dari segi akademik maupun non akademik.
Kurikulum yang dilaksanakan sesuai dengan kebijakan pemerintah yaitu kurikulum 1975, kurikulum 1984, kurikulum 1994, kurikulum 2004 yang dikenal dengan istilah Kurikulum berbasis kompetensi (KBK), kurikulum tingkat satuan pendidikan (KTSP) sebagai penyempurnaan kurikulum 2004, dan yang terakhir kurikulum 2013.
Tahun pelajaran 2009/2010 SMA Negeri 2 Tegal ditunjuk untuk melaksanakan Program Rintisan Sekolah Kategori Mandiri (RSKM)
Perkembangan penambahan gedung dari tahun ke tahun mengalami peningkatan khususnya pada era tahun 2000 an, sehingga yang semula hanya memiliki sekitar 3 lokal belajar dan 2 ruang untuk guru dan karyawan sampai sekarang telah memiliki lebih dari 30 ruang belajar serta beberapa fasilitas ruang untuk laboratorium dan lainnya. Sedang penataan taman mulai diintensifkan pada masa kepemimpinan Bapak Wiyarna. M.Pd.
Adapun daftar nama kepala sekolah sejak berdiri sampai sekarang adalah sebagai berikut:
[1] . Wawancara dengan Bapak Slemet, SPd., tanggal 10 September 2011
[2] . Wawancara dengan Bapak Nasirun, SPd.I , tanggal 10 September 2011
[3] . Wawancara dengan Ibu Dra. Hj. Naimah , tanggal 10 September 2011
