Pada tahun 1994, pihak PIBG Sekolah Kebangsaan Convent (1) Klian Pauh, Taiping di bawah pimpinan YDP PIBG, Tuan Haji Mat Saad Bin Sahlan telah menyuarakan hasrat untuk mencari tapak baru bagi sekolah tersebut. Kesedaran timbul bukan saja dari segi keuzuran bangunan yang kurang sesuai sebagai institusi persekolahan malah disebabkan bangunan itu jua digunakan sebagai kem untuk aktiviti keagamaan Kristian semasa cuti sekolah. Ketika itu Guru Besar, Puan Noor Rihan Bt Yaakub berperanan sebagai Penasihat PIBG.

Mulai tahun 1994 sehingga 1995 'masalah' ini telah dibawa dan diperjuangkan. Perbincangan, perundingan demi perundingan antara pihak-pihak yang berkaitan maka akhirnya pihak Kementerian Pendidikan telah berjaya membeli bangunan dan tanah yang telah sekian lama dimiliki oleh pihak mubaligh. Tanggal 2 Januari 2001 SK Convent (1) Klian Pauh berpindah ke bangunan baru yang berada di tapak bersebelahan sekolah lama. Pada 4 Januari 2001 bermulalah hari pertama sessi persekolahan 2001. Semua warga SK Convent (1) Klian Pauh yeng terdiri daripada 620 orang murid perempuan 31 orang guru dan 5 orang staff sokongan mengguna pakai bangunan baru atas nama SK Klian Pauh. Pada 8 Januari 2001 merupakan tarikh hari milik tapak bagi Kementerian Pendidikan dan pada 31 Januari tahun yang sama, kerja-kerja meruntuh bangunan lama SK Convent (1) Klian Pauh bermula. Kerja-kerja membina bangunan baru dimulakan dan siap pada penhujung tahun 2002

Pada bulan Januari 2003, SMK Klian Pauh dibuka dengan jumlah pelajar seramai 300 orang dan 16 orang tenaga pengajar. Sekolah ini terletak di atas tapak lama SK Convent(1) Klian Pauh bersebelahan SK Klian Pauh. Sekolah ini diterajui oleh pemangku pengetua iaitu Encik Mohd Ravi b Abdullah. Terdapat 9 buah kelas yang terdiri daripada tingkatan satu, dua dan empat. Pada bulan Julai 2003 SMK Klian Pauh menerima pengetua pertama iaitu Tuan Haji Mohd Bakri b Mohd Hussain;AMP. Dalam bulan Januari 2004 jumlah murid meningkat sehingga 600 orang dan tenaga pengajar 31 orang. Bilangan kelas bertambah menjadi 16 buah yang terdiri daripada tingkatan satu hingga lima. Pada 16 Julai 2004, SMK Klaian Pauh menerima pengetua baru iaitu Puan Hajjah Noripah Bt Haji Md Shah berikutan persaraan pengetua pertama. Puan Hajjah Noripah berkhidmat sehingga 30 Jun 2005 sebagai pengetua SMK Klian Pauh. Sekolah ini telah dirasmikan pada 11 Mei 2005 bersamaan 2 Rabiulakhir 1426H oleh DYMM Paduka Seri Sultan Perak Darul Ridzuan. Mulai 1 Julai 2005, Puan Hajjah Aishah bt Haji Ahmad menjawat jawatan Pengetua SMK Klian Pauh sehingga sekarang.