Terbentuknya Persatuan Alumni Gerakan Mahasiswa Nasional Indonesia yang disingkat dengan PA GMNI, tidak bisa dilepaskan dari organisasi Gerkan Mahasiswa Nasional Indonesia (GMNI), dimana GMNI merupakan sebuah organisasi mahasiswa yang bertujuan untuk melawan segala bentuk penghisapan dan penindasan kepada rakyat. Sebagai sebuah organisasi yang beranggotakan mahasiswa, selain menjalankan kewajiban dalam perkuliahan, anggota GMNI hadir dari penggabungan atau peleburan (fusi) dari tiga organisasi mahasiswa yang telah berdiri sebelumnya yaitu Gerakan Mahasiswa Marhaen yang berbasis di Yogyakarta, Gerakan Mahasiswa Merdeka yang berbasis di Surabaya, dan Gerakan Mahasiswa Demokrat Indonesia yang berbasis di Jakarta. Gagasan untuk melakukan peleburan muncul pertama kali dari ketua Gerakan Mahasiswa Demokrat Indonesia, S.MM Hadiprabowo pada September 1953. Didasari keinginan untuk menyatukan organisasi-organisasi mahasiswa nasionalis, S.M Hadiprabowo kemudian mengadakan pertemuan dengan pimpinan dua organisasi lainnya yaitu Slama Djajawidjaja, Slamet Rahardjo, dan Haruman dari Gerakan Mahasiswa Merdeka. Serta bertemu dengan Wahyu Widodo, Subagio Masruki, dan Sri Sumantri dari Gerakan Mahasiswa Merdeka. Pimpinan ketiga organisasi akhirnya setuju untuk mengadakan pertemuan dan diadakan di rumah dinas Walikota Jakarta, Soediro. Dalam pertemuan tersebut, nama Gerakan Mahasiswa Nasional Indonesia (GMNI) dipilih sebagai nama organisasi hasil fusi, disepakati pula Nasionalisme dan Marhaenisme menjadi ideologi GMNI. Selain dua hal tersebut, pertemuan juga memutuskan Kongres I GMNI akan diadakan di Surabaya
Setelah menyelesaikan masa studi sebagai mahasiswa, anggota GMNI sesuai beberapa ketentuan dalam Anggaran Dasar dan Anggaran Rumah Tangganya kemudian dikualifikasikan sebagai Alumni GMNI. Alumni GMNI tidak serta merta kehilangan tugas idologisnya sehingga tetap bergerak dan berjuang baik secara mandiri maupun dalam wadah alumni yang disebut Persatuan Alumni Gerakan Mahasiswa Nasional Indonesia
Persatuan Alumni Gerakan Mahasiswa Nasional Indonesia (GMNI) adalah organisasi yang lahir berdasarkan kesadaran kolektif, kehendak yang tetap melekat untuk berjuang demi rakyat dan kesamaan tugas sejarah yang diemban oleh Alumni GMNI yang memiliki jiwa Marhaenis.Dalam sejarahnya, alumni GMNI merasa perlu membentuk sebua wadah yang dapat mempersatukan seluruh potensi alumni dalam barisan perjuangan bersama untuk membangun bangsa dan negara demi tercapainya tujuan pada founding father.
Pada prosesnya, berawal pada sekitar tahun 90-an beberapa alumni GMNI kemudian menginisiasi sebuah wadah yang dapat menghimpun dan mengkonsolidasikan seluruh potensi Alumni GMNI ke dalam sebuah wadah yang dapat menyatukan. Akhirnya, setelah pertemuan demi pertemuan dilakukan, maka disepakatilah wadah yang dimaksud dengan nama Forum Komunikasi Alumni Gerakan Mahasiswa Nasional Indonesia, yang kemudian disingkat menjadi FKA GMNI. Selanjutnya, dalan catatan perjalanannya FKA GMNI ini berhasil melaksanakan Musyawarah Nasional (Munas) sebagai forum permusyawaratan tertinggi sebanyak tiga kali, yaitu pertama, Musyawarah Nasional I, yang diselenggarakan di kota Jakarta pada tahun 1994. Munas tersebut diinisiasi oleh beberapa tokoh alumni GMNI. Munas I Alumni GMNI melahirkan beberapa keputusan penting, salah satunya adalah penetapan FKA GMNI sebagai sebuah organisasi yang mewadahi Alumni GMNI, yang dipimpin oleh Dewan Konsulatif Nasional (DKN) sebagai pimpinan organisasi pada tingkat nasionalnya
Selanjutnya Kedua, Munas FKA GMNI II diselenggarakan di kota Semarang pada tahun 2003. Keputusan Munas ini yang terkait secara langsung dengan persoalan organisasi adalah akan diselenggarakannya Musyawarah Nasional III guna melakukan revitalisasi organisasi. Pada Munas II ini FKA GMNI menetapkan Badan Pekerja Munas II yang bertugas mempersiapkan dan menyelenggarakan Munas III FKA GMNI. Ketiga, Munas III FKA GMNI diselenggarakan di Jakarta pada tanggal 24-26 Maret 2006 dimana pada acara tersebut dihadiri oleh lebih dari 1000 alumni GMNI. Dalam Sidang Pleno ini, disepakati bahwa Munas III ini berubah nama menjadi Kongres I Persatuan dan Kesatuan Alumni GMNI. Kesepakatan Tersebut melahirkan perubahan bentuk organisasi dari FKA menjadi organisasi kemesayarakatan yang berimplikasi pada pembentukan Pengurus Cabang dan Pengurus Daerah. Dengan nama Persatuan Alumni GMNI yang disepakati tanggal 25 Maret 2006 sebagai hari kelahirannya struktur kepemimpinan nasional berbentuk Presidium 9 orang.
Meskipun sempat terjadi tarik-menarik dalam pembahasan soal perlu atau tidaknya Alumni GMNI membentuk organisasi kemasayarakatan dalam hal ini bernama Persatuan Alumni Gerakan Mahasiswa Nasional Indonesia (PA GMNI), karena terdapat peserta kongres yang beranggapan bahwa Alumni GMNI tidak perlu menjadi sebuah organisasi tersendiri dan tetap dalam bentuk FKA, karena sifatnya lebih longgar. Dalam Kongres I Alumni GMNI tersebut, ditetapkan Pimpinann organisasi pada tingkat nasional dengan bentuk Presidium, serta keputusan penting lainnya yaitu, Persatuan Alumni GMNI berdasarkan Pancasila 1 Juni 1945, yang berazaskan Marhaenisme ajaran Bung Karno, dan Motto perjuangan Perstuan Alumni GMNI adalah Pejuang Pemikir – Pemikir Pejuang
Pada Kongres I Presidium PA GMNI dengan Ketua Presidium Drs. Palar Batubara dan Sekjend Drs. Ahmad Basarah dan PA GMNI melaksanakan Kongres II di kota Surabaya pada tanggal 26-28 November 2010, dengan Tema : ”Membangun Negeri dengan Kedaulatan Politik, Memperkokoh Negara Pancasila, Kemandirian Ekonomi dan Kepribadian yang Berkebudayaan Indonesia”. Kongres II PA GMNI tersebut dibuka oleh Wakil Presiden Republik Indonesia ke-11 yang menjabar pada periode 2009-2014 Prof.Dr. H. Boediono, B.Sc., M.Ec. Keputusan pada kongres II tersebut mengubah bentuk kepengurusan di tingkat nasional dari Presidium menjadi Pengurus Pusat dengan Ketua Umum terpilih Dr.H. Soekarwo, SH., M.Hum dan Sekjend Ahmad Basarah, MH.
Selanjutnya pada Kongres III yang diselenggarakan di Jakarta tanggal 7-9 Agustus 2015, dengan tema : “Jalan Trisakti Menuju Tatanan Masyarakat Pancasila” yang di buka oleh Presiden Republik Indonesia Ir.H.Joko Widodo dan di hadiri oleh Presiden Republik Ke-5 Prof. Dr. (HC). H. Dyah Permata Megawati Setyawati Soekarnoputi yang lebih dikenal dengan Ibu Megawati Soekarnoputri serta dihadiri oleh Menteri Kabinet Kerja. Dalam kongres III tersebut memutuskan Dr. Ahmad Basarah S.H., M.H. sebagai Ketua Umum Dewan Pengurus Pusat Persatuan Alumni Gerakan Mahasiswa Nasional Indonesia (DPP PA GMNI) periode 2015-2020 dan Sekjend Ir. Ugik Kurniadi, MT.
Berikutnya pada Kongres IV Persatuan Alumni Gerakan Mahasiswa Nasional Indonesia yang dilaksanakan di Bandung tanggal 6-8 Desember 2021, dengan tema : “Nasionalisme Menjawab Tantangan Zaman”. Dimana Kongres ini dibuka oleh Presiden Republik Indonesia Ir. Joko Widodo. merupakan perpanjangan waktu dari rencana pelaksanaan Kongres yang sedianya akan dilaksanakan pada bulan Agustus 2020. Kemudian dengan adanya pandemi Covid 19, maka berdasarkan aturan PROKES Covid 19 dengan batasan tidak diperkenankan kegiatan yang memungkinkan berkumpulnya orang, maka organisasi memutuskan Kongres mundur hingga bulan Juni 2021. Namun demikian pada bulan Juni 2021 telah terjadi peningkatan wabah Covid varian Delta yang mengakibatkan keluarnya keputusan Pemerintah khususnya untuk Kota Bandung di berlakukan PPKM Level 3 dimana semua kegiatan yang mengumpulkan banyak orang tidak di ijinkan. Karena itu di ambil keputusan berikutnya bahwa apapun yang terjadi, Kongres akan dilaksanakan paling lambat pada akhir bulan Desember 2021.
Kita bersyukur bahwa pilihan Kongres dilaksanakan pada awal bulan Desember 2021 dimana pada saat itu penyebaran Covid 19 pada kondisi yang menurun. Namun demikian pelaksanaan Kongres juga tidak dapat dilaksanakan dengan kehadiran secara langsung oleh peserta Kongres.
Karena itu Kongres diselenggarakan secara hybrid yaitu diikuti secara langsung oleh ; DPP PA GMNI, Wakil alat kelengkapan organisasi tingkat pusat, serta Wakil 34 DPD se-Indonesia serta di ikuti 243 DPC se-Indonesia dari 258 DPC se-Indonesia.
Walaupun dengan keterbatasan situasi akibat pandemi Covid 19, kita patut syukuri Kongres dapat berjalan sesuai rencana dan telah menghasilkan keputusan Kongres serta Kongres telah memutuskan Prof. Dr. Arief Hidayat S.H., M.S sebagai Ketua Umum Dewan Pengurus Pusat Persatuan Alumni Gerakan Mahasiswa Nasional Indonesia (DPP PA GMNI) Periode 2021-2026. Dengan Ketua Harian Arudji Wahyono & Sekjend Dr. Abdy Yuhana, SH., MH.