Pondok Pesanten Al Anwar 2 didirikan oleh Syaikhina KH. Maimoen Zubair pada 30 Juli 2006 / 6 Rojab 1427 H dan diresmikan pada 7 Maret 2009 oleh Prof. Dr. Ir. H Muhammad Nuh, DEA. yang pada saat itu menjabat sebagai Menteri Informasi dan Komunikasi RI.

Dulunya ketika masih awal berdiri Pondok Pesantren Al Anwar 2 masih menjadi bagian dari Lembaga Al Anwar 01 yang diasuh oleh Syaikhina KH Maimoen Zubair. Meskipun masih menjadi bagian dari Al Anwar 1, Pesantren Al Anwar 2 memiliki perbedaan meskipun tidak kontras dari Pondok Pesantren Al Anwar 01, yakni pelajaran yang diajarkan dikombinasikan dengan pelajaran – pelajaran umum berbasis kurikulum dari Kementerian Agama.

Saat ini Pondok Pesantren Al Anwar 2 sudah menjadi bagian dari Yayasan Pondok Pesantren Al Anwar 02 di mana di dalamnya terdapat PP. Al Anwar 2, Tahfidzul Qur’an, Madin Takmiliyyah Al Anwar 2, MI Terpadu Al Anwar, MTs Al Anwar, SMP Al Anwar, MA Al Anwar, dan Ma’had Aly K. H. Maimoen Zubair yang diasuh langsung oleh putra pertama Syaikhina KH. Maimoen Zubair yaitu KH. Abdullah Ubab MZ. Pondok Pesantren Al Anwar 2 berlokasi di Dukuh Gondanrojo, Desa Kalipang, Kec. Sarang, Kab. Rembang, Prov. Jawa Tengah. Dari pondok yang awalnya hanya bangunan sederhana, kini semakin tahun mengalami perkembangan yang cukup pesat dari segi kuantitas santri maupun kualitas.