Sesuai dengan bidang keahliannya, intelektual yang gemar hidup sederhana itu mengurus Majelis Tarjih Muhammadiyah, sebuah lembaga di dalam organisasi tersebut yang menjadi rujukan terkait hukum Islam. Dalam periode 1985-1990, dia duduk sebagai ketua lembaga itu.

Dalam Muktamar Muhammadiyah di Semarang (Jawa Tengah) 1990, diputuskanlah bahwa kepemimpinan organisasi tersebut beralih dari KH AR Fachruddin kepada KH Ahmad Azhar Basyir.

Ketika terpilih sebagai ketua umum Muhammadiyah, demikian keterangan dari buku Ensiklopedi Islam, sejumlah kalangan sempat khawatir bila dia akan menampilkan sikap yang cenderung kaku, sebagaimana biasanya kaum ahli fiqih. Pandangan demikian, di satu sisi, mungkin ada benarnya.

Dalam persoalan tentang syariat dan akidah, misalnya, seorang pakar fiqih dapat menggunakan pendekatan tekstual. Namun, Kiai Ahmad Azhar juga menguasai persoalan filsafat. Oleh karena itu, pada faktanya sang ketua umum tersebut bersikap luwes. Pemikirannya yang “rigid” disampaikan dengan bahasa filsafat yang meruangkan dialog dan membuka cakrawala pikiran.