Sejarah Pondok Pesantren Islam Salman Alfarisi (PPISF) bermula pada tanggal 14 Mei 2009 di Rumah Bp. H. Kusuma Putra yang terletak di Jalan Bhayangkara, Surakarta. dalam sebuah acara seremonial sederhana penyerahan wakaf sebidang tanah seluas 4500m2 yang terletak di desa Bakalan, Harjosari, Karangpandan oleh keluarga Bp. H. Kusuma Putra rahimahullah kepada Ust. Abu Bakar Baasyir dengan amanah untuk didirikan sebuah Pesantren pendidikan Islam dan Alqur’an.
Tanah yang masih berupa sawah dan telah memiliki beberapa bagian bangunan lama berupa sebuah masjid kecil (seukuran 10×10 m2), sebuah kandang sapi dan bangunan bilik yang belum sempurna itu kemudian diamanahkan oleh Ust. Abu Bakar Baasyir kepada putranya Ust. Abdul Rohim Baasyir Lc. untuk melaksanakan tugas menunaikan amanah wakaf yaitu mendirikan sebuah pesantren pendidikan Islam dan Al-Qur’an.
Sejak menerima amanah tugas dari ayahandanya, Ust. Abdul Rohim Baasyir Lc. mulai membuat perencanaan untuk menunaikan amanah tugas tersebut dengan mendirikan Yayasan An-Nubala yang akan menjadi pengayom secara hukum administrasi bagi pesantren tersebut. Pondok Pesantren Islam Salman Al-Farisi mulai dirintis pada tahun 2010 dalam sebuah rapat pertemuan di sebuah Rumah di daerah pegunungan Tawangmangu untuk menggariskan konsep pendidikan dan bentuk tarbiyyah di pesantren ini oleh Ust. Abdul Rohim Baasyir Lc. , Ust. Sanif Alisyahbana Lc. dan Ust. Deni Ramadhan S. Ag.
Setahun kemudian, Alhamdulillah pesantren berhasil diwujudkan di Karangpandan Kabupaten Karanganyar Jawa Tengah dengan santri perdana berjumlah 8 orang. Dibawah Yayasan An-Nubala yang dipimpin oleh Ust. Abdul Rohim Baasyir Lc. pesantren menempati lahan wakaf dengan dua gedung dan sebuah masjid sederhana.
Sejak awal, para pendiri pesantren tertarik dengan sistem pendidikan talaqi atau mulazamah. Metode pendidikan yang dipraktekkan oleh umat Islam terdahulu. Namun karena pertimbangan metode mulazamah masih asing bagi masyarakat Indonesia dan pertimbangan SDM, semi mulazamah menjadi model pendidikan yang disepakati dengan sistem klasikal.
Setelah perjalanan waktu, pesantren mengalami perkembangan fisik dan non fisik yang cukup pesat. Sistem pendidikan juga mengalami perubahan sesuai dengan berbagai hasil evaluasi. Metode semi mulazamah klasikal ditingkatkan dengan sistem mulazamah halaqah, santri tidak lagi dibagi menjadi kelas-kelas namun mengacu pada kelompok kecil sesuai dengan pelajaran yang diikutinya.
Pada 2015, dengan dukungan SDM alumni Yaman, Pesantren Islam Salman Al-Farisi menerapkan metode mulazamah murni. Metode ini merupakan metode final yang akan terus diterapkan dan menjadi ciri khas pesantren. Santri tidak belajar di kelas atau halaqah, tetapi privat langsung kepada pengajar yang mengajar sesuai dengan kemampuan masing-masing santri.
Bersama perkembangan jumlah santri yang semakin meningkat, pada 2017 Yayasan Annubala kembali mendapatkan amanah wakaf sebidang tanah dan melaksanakan pengembangan berikutnya dengan membangun komplek Pesantren Salman Alfarisi 2 yang berlokasi di kaki gunung Lawu, desa Blumbang Tawangmangu Karanganyar.
Sejak awal berdiri tahun 2010, Pondok Pesantren Salman Al-Farisi berada di bawah Yayasan Annubala, hingga Pada 19 November 2020, Ponpes Islam Salman Al-Farisi mendirikan yayasan sendiri dan resmi berada di bawah yayasan baru bernama Yayasan Pondok Pesantren Salman Al-Farisi melalui akta Kementerian Hukum dan Hak Asasi Manusia Nomor AHU-0022071.AH.01.04.Tahun 2020.
Tentu perjuangan ini tidak berhenti sampai di sini, Masih banyak cita-cita mulia yang ingin diwujudkan demi menegakkan dienul Islam. Semoga Allah SWT senantiasa memberikan kemudahan kepada seluruh hamba-Nya yang terus berusaha untuk menebarkan ajaran agamaNya dan mengajarkan firman-firmanNya kepada seluruh manusia serta mendapatkan ridha-Nya. Amiiin.