Sejarah terbentuknya PSIM dimulai pada tanggal 5 September 1929
dengan lahirnya organisasi sepak bola yang diberi nama Perserikatan
Sepak Raga Mataram atau disingkat PSM. Nama Mataram digunakan karena
Yogyakarta merupakan pusat pemerintahan kerajaan Mataram. Kemudian pada
tanggal 27 Juli 1930 nama PSM diubah menjadi Perserikatan Sepak Bola
Indonesia Mataram atau disingkat PSIM sebagai akibat tuntutan
pergerakan kebangsaan untuk mencapai kemerdekaan
Indonesia. PSIM sendiri saat itu sesungguhnya merupakan suatu badan
perjuangan bangsa dan Negara Indonesia.
Pada tanggal 19 April 1930, PSIM bersama dengan VIJ Jakarta, BIVB
Bandung, MIVB (sekarang PPSM Magelang), MVB (PSM Madiun) SIVB
(Persebaya Surabaya), VVB (Persis Solo) turut membidani kelahiran PSSI
dalam pertemuan yang diadakan di Societeit Hadiprojo Yogyakarta. PSIM
dalam pertemuan tersebut diwakili oleh HA Hamid, Daslam, dan Amir Noto.
Setelah melalui perbagai pertemuan akhirnya disepakati berdirinya
organisasi induk yang diberi nama Persatuan Sepak Raga Seluruh
Indonesia (PSSI) pada tahun 1931 dan berkedudukan di Mataram
Sejak tahun itu pulalah kompetisi tahunan antar kota/perserikatan
diselenggarakan. Dalam kompetisi perserikatan, PSIM pernah menjadi
juara pada tahun 1932 setelah dalam pertandingan final di Jakarta
mengalahkan VIJ Jakarta. Selanjutnya PSIM berkali -kali hanya dapat
menduduki peringkat kedua setelah kalah dalam pertandingan final
kompetisi perserikatan pada tahun 1939, 1940, 1941, 1943, dan 1948.
Sejak Liga Indonesia bergulir pada tahun 1994, prestasi PSIM
mengalami pasang surut yang ditandai dengan naik turunnya PSIM dari
divisi utama ke divisiI Liga Indonesia. PSIM pernah mengalami degradasi
pada Liga Indonesia 1994/1995 dan promosi dua tahun kemudian. Setelah
bertanding selama tiga musim di divisi utama, PSIM kembali harus
terdegradasi ke Divisi I pada musim kompetisi 1999/2000.
Tiga tahun kemudian pada Divisi I Liga Indonesia 2003 PSIM baru
bangkit dan membidik target untuk promosi dengan persiapan tim yang
matang. Di babak penyisihan PSIM bahkan dua kali mengkandaskan tim
favorit Persebaya Surabaya dalam pertandingan tandang kandang dengan
skor telak 3-1, dan 3-0, dan menjuarai Grup C. Sayangnya keperkasaan
PSIM semakin lama semakin luntursehingga gagal melanjutkan dominasinya
pada babak 8 besar yang berlangsung dengan kompetisi penuh. PSIM yang
sejak awal memimpin klasemen harus puas berada di peringkat ke-4, dan
berkesempatan untuk mengikuti playoff. Di babak playoff yang dimainkan
di Solo, PSIM kalah bersaing dengan Persela Lamongan hanya karena
perbedaan jumlah gol.
Akhirnya, setelah lama berjuang menggapai tiket promosi ke divisi
utama, PSIM berhasil meraihnya pada Divisi I Liga Indonesia 2005.
Bahkan PSIM berhasil menjadi juara kompetisi setelah menaklukan Persiwa
Wamena 2-1 dalam final yang digelar di Stadion Jalak Harupat, Soreang,
Bandung, 4 September 2005. Gol kemenangan PSIM ditentukan oleh
tendangan penalti yang dieksekusi oleh M.Erwin pada menit ke-49.
PRESTASI
- Liga Indonesia 1994/1995 : Peringkat 17 Wilayah Timur (Degradasi)
- Liga Indonesia 1995/1996 : Divisi I Liga Indonesia 1996/1997 : Juara Dua Divisi I(Promosi)
- Liga Indonesia 1997/1998 : Peringkat 10 Wilayah Tengah (Liga dihentikan)
- Liga Indonesia 1998/1999 : Peringkat 5 Wilayah Tengah
- Liga Indonesia 1999/2000 : Peringkat 14 Wilayah Timur (Degradasi)
- Liga Indonesia 2001 : Peringkat 3 Grup Tengah I Divisi I
- Liga Indonesia 2002 : Peringkat 5 Grup 2 Divisi I
- Liga Indonesia 2003 : Peringkat 3 Playoff Divisi I
- Liga Indonesia 2004 : Peringkat 6 Wilayah Barat Divisi I
- Liga Indonesia 2005 : Juara Divisi I (Promosi)
- Liga Indonesia 2006 : Mengundukan diri dari kompetisi bersama PSS Sleman & Persiba Bantul Karena Jogja terkena Gempa Bumi.
