18 Haziran 1812 tarihinde Simbirsk’te (bugünkü adıyla Ulyanovsk) geniş ve varlıklı bir tüccar ailede dünyaya geldi. Babasının babası 18. yüzyıl ortasında orduya olan hizmetleri sayesinde toprak sahibi soylu sınıfa yükselmişti; ailenin geri kalanıysa hububat ticaretiyle uğraşmıştı. Babası Aleksandr İvanoviç birkaç dönem Simbirsk’e belediye başkanlığı da yapmış saygın bir adamdı; Gonçarov’un biyografilerinde babasının dindar ve hüzünlü, annesi Avdotya Matveyevna’nın ise sert ve disiplinli olduğu yazar. Babasını erken yaşta kaybettikten sonra başlayan eğitim hayatı onu aile mesleğinden uzaklaştırarak doğuştan yeteneği olan edebiyata yakınlaştırdı. Moskova Üniversitesi’nin dilbilim fakültesine girdi ve en yakın arkadaşlarından Rus yazar Mihail Lermontov (1814-1841) ile burada tanıştı. Gonçarov’un otuz yılı aşan, pek de parlak denemeyecek bürokrasi kariyeri üç yıl sonra üniversiteden mezun olması ve St. Petersburg’a taşınmasıyla başladı. Burada samimi olduğu Maykov ailesi ve özellikle Nikolay Maykov, edebiyat çevrelerini tanımasına ve yazmaya başlamasına ön ayak oldu; ilk öyküsü “Şans Eseri Yanılgı” ailenin özel derleme kitabında çıktı. Ailenin çocukları olan Apollon (şair) ve Valeriyan’a (eleştirmen) Latince ve Rus edebiyatı dersleri veriyordu. Belinski’yle arkadaşlığı sayesinde tasarladığı üçlemenin ilk kitabı Sıradan Bir Hikâye (1847) ona erken gelen bir başarı kazandırdı. Rus fırkateyni Pallas’ın koramiraline özel kalemlik ettiği seyahat sırasında Uzak Doğu ve Japonya’yı gördü; St. Petersburg’a döndükten sonra izlenimlerini Pallas Fırkateyni: Seyahat Notları adıyla yayımladı (1858’de kitaplaştırıldı). Gonçarov yetişkinlik hayatı boyunca depresyonla ve teşhis edilmemiş zihinsel sorunlarla mücadele etti: Çağdaşı İvan Turgenyev’i (1818-1883) intihalle suçlaması da onu ileride münzevi bir hayata götürecek olan paranoyaklığının erken bir işaretiydi. “Oblomov’un Rüyası” (1849) öykü halinde yayımlandıktan on yıl sonra Gonçarov’un eklemeleriyle Oblomov adıyla yayımlandı (1859). Bu yıllarda devletin kurduğu sansür heyetine katıldı, ancak bu daireye hizmetleri uzun sürmedi ve 1867 yılında emekli oldu. 1869 yılında yayımlanan Yamaç, üçlemesinin son halkasıydı. Okurlardan gördüğü ilgiye rağmen eleştirmenlerce beğenilmediğinden Gonçarov’un edebiyattan uzaklaştığı söylenebilir: Ömrünün son yirmi yılında denemelerini ve anılarını çeşitli yerlere yazdı. 1890 yılında felç geçirdi; ertesi sonbahar yakalandığı zatürreeden sonra 24 Eylül 1891’de hayatını kaybetti. Aleksandr Nevsky Manastırı’na gömüldü, 1956 yılında külleri Volkovo Mezarlığı’na taşınmıştır. Varlığının neredeyse tamamını uşağının ölümünden sonra hamiliğini üstlendiği karısı Aleksandra Treygut ve üç çocuğuna bıraktı. Gonçarov hiçbir zaman çağdaşlarının Slavcılık-Batıcılık çatışmasına aktif olarak dahil olmadıysa da, hayalci gelenekselcilikle aşırı pragmatizm arasında varolan uçurumu kendisinde ve çevresinde görmüş ve bu konuya romanlarında çeşitli açılardan mercek tutmuştur.