Pada 1934 Soedirman lulus dari MULO Wiworotomo. Ada lowongan untuk mengajar di HIS Muhammadiyah. Namun, muncul masalah: Soedirman tak punya ijazah mengajar.

Memang ada versi yang menyebutkan Soedirman sempat bersekolah di sekolah guru di Solo, tetapi tidak lulus karena masalah biaya pendidikan. Untuk menyiasati hal ini, Soedirman menerima jenjangnya nanti hanya sekadar guru biasa. Ia kemudian menemui guru-guru senior HIS Muhammadiyah untuk menimba ilmu mengajar. Dari sini ihwal mengajar Soedirman bermula.

Keputusan Soedirman terjun ke dunia pendidikan terbukti tepat. Ia guru yang asyik. Gaya ajarnya tak monoton dan diselingi kisah keislaman dan pewayangan. Honor awalnya sebagai guru biasa saat itu amat kecil, sehingga tak mencukupi untuk hidup sebulan apalagi ia sudah berkeluarga. Namun, Soedirman berlaku ikhlas. Kebetulan juga ia menjadi pengurus koperasi di Cilacap untuk bisa menambah penghasilan.

Sardiman, dalam bukunya, "Panglima Besar Jenderal Sudirman Kader Muhammadiyah" (2000) mengutip kesaksian Marsidik (72 tahun saat diwawancara), salah satu eks murid Soedirman pada 1934-1937. Marsidik memaparkan, Soedirman menjadi guru di kelas yang berisi murid sebanyak 30-an anak. Satu kelas dipisahkan kain tipis antara murid laki-laki dan perempuan.