Anne tarafı Kırım, baba tarafı Plevne göçmeni… Babasının ilk işi vali şoförlüğü… Evine 300 metre mesafedeki halkevi hayatını etkiledi. Çocukluk yıllarında İhsaniye Camisi’nde müezzinlik yaptı. Sanata daha çocuk yaşta ilgi duydu. 14 yaşında ilk karikatür sergisini açtı. İlk parasını da portre karikatür çiziminden kazandı.
Ortaokulu Eskişehir Lisesi’nde başladı. O yıllarda hem ortaokul hem liseydi. Şimdiki adıyla Atatürk Lisesi… Askeri Lise’ye gitmek istedi. Hava Hastanesi’nden aldığı heyet raporunu Şair Fuzuli Caddesi’nde kaybedince bu hayali gerçek olamadı. Cüneyt Arkın, lise yıllarından arkadaşı…
Öğrencilik yıllarında çeşitli gazetelerde muhabirlik, yazarlık, karikatüristlik ve yazı işleri müdürlüğü yaptı. Sürekli basın kartı sahibidir. 20’li yaşlarında arkadaşlarıyla gazete kurdu. Yaşı büyütülerek Sakarya Gazetesi Yazıişleri Müdürü yapıldı. 60 darbesinde gazeteciydi… Toplu basın mahkemesinde yargılandı. 
Bir müdür ve bir mühür ile kurulan Akşam Yüksek Ticaret Okulu’nu haber yapmak için okulun müdürü Prof. Dr. Orhan Oğuz’un yanına gitti. Orhan Oğuz, okula kayıt olması halinde röportaj vereceğini söyledi. Devam mecburiyeti olmadığı için tercih ettiği Ankara Hukuk Fakültesi’nden kaydını sildirdi.
Arkadaşlarıyla birlikte kan satarak tiyatro kurdu. Pek çok kez sahne aldı…
Açıköğretim sisteminin fikir babası ve kurucusu.
1976 yılında Eskişehir İktisadi ve İdari İlimler Akademisi Başkanlığına seçildi.
Türkiye'de ilk renkli TV sistemini Eskişehir'de kurdu. 1982 yılında Anadolu Üniversitesi Kurucu Rektörlüğü’ne getirildi. 1992’ye kadar rektördü. İki dönemden fazla rektörlük yapılamaz hükmü nedeniyle görevi sona erdirildi.
İki dönem RTÜK Başkanlığı yaptı. Heykel sanatıyla uğraşan Büyükerşen, çeşitli ilçelerdeki Atatürk heykelleri onun imzasını taşımakta.
1999’da DSP’den Büyükşehir Belediye Başkanı seçildi. 2004, 2009, 2014 ve 2019’da seçimi kazanarak görevine devam etti.
Ulusal ve uluslararası birçok ödülün sahibi olan Prof. Dr. Yılmaz Büyükerşen evli, iki çocuk ve iki torun sahibi.
Cemalettin N. Taşcı’nın gerçekleştirdiği nehir söyleşi, Zamanı Durduran Saat ismiyle kitaplaştı. Kitapta, Büyükerşen’in hayatı ve yaptıkları anlatılıyor.