1844 senesinde Tophane’de dünyaya geldi.  Küçük yaşta yetim kalan Ahmet Mithat, 1854 senesinde Vidin'de bulunan ağabeyi Hafız Ali Ağa'nın yanına gitti ve eğitimine burada başladı.

1857 senesinde ailesi ile birlikte İstanbul'a döndü. Mısır Çarşısı'nda bir aktarın yanında çırak olarak çalışmaya başladı. Ağabeyinin yanında çalıştığı Mithad Paşa'nın yanına girdi. Mithad Paşa 1861'da Niş Valiliğine atanınca ağabeyi ile birlikte Niş'e gitti ve rüşdiyeyi orada bitirdi.

Rüşdiye mezuniyetinin ardından Rusçuk'ta Tuna Vilayeti Kaleminde memur olarak çalışmaya başladı. Çalışkanlığı ile Mithad Paşa'nın gözüne girdi. Paşa ona kendi adını verdi. Bu arada özel dersler alarak Fransızcasını ilerletti. 1866 senesinde çevirmen olarak gittiği Sofya'da evlendi.

İlerleyen dönemlerde Tuna Gazetesi'nin başyazarı oldu. 1869 senesinde Mithad Paşa ile birlikte Bağdat'a gitti. Vilayet matbaası ve resmi vilayet gazetesi Zevra'nın müdürlüğünü yaptı. İlk kitabı olan "Hece-i Evvel" isimli ders kitabını burada yazdı.

1871 senesinde ağabeyinin vefatından sonra İstanbul'a döndü. Tahtakale'deki evinin altına küçük bir matbaa kurarak kendi kitaplarını bastı. Bir yandan da "Basiret" gazetesine yazılar yazdı.

Bundan bir sene sonra Namık Kemal ile tanışan Ahmet Mithat Efendi, ilerleyen dönemlerde Devir ve Bedir isimli iki gazete çıkardı. Bu gazeteler kapatılınca Dağarcık ve Kırkambar dergilerini yayınlamaya başladı. Bu dergilerde çıkan yazılar nedeniyle Namık Kemal, Ebüzziya Tevfik gibi yazarlarla birlikte Rodos'a sürgüne gönderildi. 3 sene kaldığı Rodos'ta, Medrese-i Süleymaniye isimli bir okul açıp ders verdi ve V. Murat'ın affıyla 1876'da İstanbul'a döndü.

1876 senesinde İttihat gazetesini yayınlamaya başlayan yazar, muhalif tutumunu yumuşatarak II. Abdülhamit'e yakınlaştı. Devletin resmi gazetesi Takvim-i Vakayi ve devletin basımevi olan Matbaa-i Amire'nin müdürlüğüne atandı.

1878 senesinde Osmanlı Sarayı'nın desteğiyle "Tercüman-ı Hakikat" gazetesini kurdu.

1888 senesinde İsveç'te toplanan Müsteşrikler Kongresi'ne katıldı. 1895 senesinde Meclis-i Umur-ı Sıhhiye ikinci reisi oldu. Aynı yıl Sabah gazetesinde yayınlanan "Dekadanlar" başlıklı yazısıyla Servet-i Fünun'u eleştirdi. Sanat ve edebiyat çevrelerinin tepkisini çekti. Yazarlığı bırakmak zorunda kaldı. Ölümüne kadar Darülfünun'da dünya tarihi ve dinler tarihi dersleri verdi, hayır kurumlarında çalıştı. 

"Esrar-ı Cinayat" isimli eseriyle Türk edebiyatındaki ilk polisiye roman örneğini veren Ahmet Mithad Efendi, 28 Aralık 1912 tarihinde 68 yaşındayken hayatını kaybetti. 1878 senesinde çıkarmaya başladığı ve yayın hayatını 1921 senesine kadar sürdürmüş olan "Tercüman-ı Hakikat" gazetesi Osmanlı basın tarihinin en uzun ömürlü ve etkili yayınlarından biridir.