İngiliz ve Hollanda asıllı bir ailenin oğlu olarak New York'ta doğdu. Babası iflas etti ve Herman Melville on iki yaşındayken öldü. On beş yaşında okulu bırakıp çalışmaya başladı. Sırayla bankada memurluk, işçilik, ağabeyinin dükkanında tezgâhtarlık, öğretmenlik yaptı. 1839'da Liverpool'a giden bir gemiye miço olarak bindi. Dönüşte Acushnet balina gemisiyle güney denizlerine açıldı. 18 ay sonra balina avcılığından ve kaptandan bunalıp, Markiz adalarında gemiden kaçtı. Yamyamların eline düştü, zorlukla yakasını kurtarabildi. Tahiti'de tarlalarda çalıştı, başka bir balina gemisiyle Honolulu'ya gidip, Amerikan ordusuna denizci eri yazıldı. 1844'te New York'a dönüp deneyimlerini kağıda dökmeye başladı. Sonuç ona büyük ün sağlayacak beş eserdi: Typee, Omoo, Mardi, Redburn ve White Jacket.

1850'de üç yıl önce evlendiği eşiyle on üç yıl kalacağı Massachussets'deki çiftliğine yerleşti. En büyük eseri Moby Dick buradaki konmşusu Nathaniel Hawthorne'a ithaf edilmiştir. Moby Dick'in yayımlanmasıyla azalmaya başlayan ünü, karmaşık metafizik romanı Pierre'le birlikte bütünüyle yok oldu.

Genel ilgisizlik sonucu, yaşamını sürdürebilmek için öğretmen olarak iş aramaya başladı. Çabaları boşa çıkınca, 1863'te New York'a yerleşti, üç yıl sonra da Gümrük Müfettişliği görevine getirildi. On dokuz yıl boyunca bu görevde kaldı. Son yıllarını nasıl geçirdiği oldukça karanlıktır, ölümünden hiç söz edilmedi. 1920'lerde edebiyat öğrencileri tarafından yeniden bulgulandı ve bütün eserlerinin yeni baskıları birbirini izledi. 1930'lardan bu yana yalnızca denizci öyküleri anlatan büyük bir yazar olarak değil, ayrıca gerçekçi anlatımı ve zengin ritmik düzyazıyı ustalıkla kullanan keskin görüşlü bir sosyal eleştirmen ve filozof olarak anılmaktadır.