Dibangun di dalam lingkungan Masjid Jami' Mujahidin Palampang, TK/TPA Al-Mujahidin secara resmi terdaftar pada LPPTKA/BKPRMI Kab. Pangkep dengan Nomor Unit 005 pada tanggal 01 April 2001. Berdirinya TK/TPA ini atas inisiatif Pengurus Yayasan, Pengurus Masjid, dan Remaja Masjid serta beberapa Tokoh masyarakat Palampang Kel. Mappasaile, diantaranya: H. A. Muis; H. Abdussalam Ahmad; Usman Amin, SE; (yang kemudian diamanahi tugas sebagai Kepala Unit pertama TK/TPA Al-Mujahidin).

Latar belakang pemikiran pendiriannya :

1. Inisiatif dari para Pengurus Yayasan, Masjid, dan Remaja serta masyarakat yang begitu antusias menyambut baik pendirian TK/TPA Al-Mujahidin Palampang sehingga sangat potensial mendirikan lembaga pendidikan Al-Qur’an.
2. Belum adanya Lembaga Pendidikan Al-Qur’an di Masjid Jami’ Mujahidin dan di lingkungan sekitar Masjid Jami’ Mujahidin.
3. Melihat dan mencermati kondisi masyarakat di era modernisasi dan globalisasi ini yang cenderung hedonis dan materialis, ditambah dengan pengaruh pergaulan bebas seperti tindakan kriminal/kekerasan serta narkotika dan obat-obatan terlarang yang sudah mulai menyerang anak-anak yang menyesatkan generasi anak bangsa sampai ke pelosok pedesaan yang menyebabkan terjadinya berbagai krisis, sehingga kehidupan Islami mulai memudar, malah cenderung diabaikan