Jurusan Teknik Mesin didirikan bersamaan dengan berdirinya Politeknik Universitas Sriwijaya pada tahun 1982 di kota Palembang dengan Surat Keputusan Departemen Pendidikan dan Kebudayaan Republik Indonesia No. 03/DJ/Kep/1979. Pada tahun 1998 Politeknik Universitas Sriwijaya menjadi lembaga pendidikan mandiri dengan nama Politeknik Negeri Sriwijaya melalui Keputusan Menteri Pendidikan dan Kebudayaan Republik Indonesia No. 235/O/1998 tanggal 21 September 1998 tentang Pendirian Politeknik Negeri Sriwijaya (POLSRI). Pada awal pendirian Jurusan Teknik Mesin hanya memiliki satu jenjang pendidikan formal dengan 2 konsentrasi yaitu  Produksi serta  Perawatan dan Perbaikan. Pada saat ini Jurusan Teknik Mesin telah berkembang dan memiliki 3 jenjang pendidikan formal, yaitu :

1. Program Pendidikan Sarjana Terapan (D4) Teknik Mesin Produksi dan Perawatan.
2. Program Pendidikan Diploma-III (D3) Teknik Mesin.
3. Program Pendidikan Di luar Domisili (PDD) jenjang Diploma 2 (D2) Kabupaten Siak Sri Indrapura Provinsi Riau yang merupakan rintisan Akademi Komunitas Negeri.