1944 yılında Fas’ta doğdu. Ortaöğrenimini, ailesiyle birlikte gittiği Tanca’da yaptı; ardından Rabat’ta yükseköğrenim gördü. Tetuan ve Casablanca’da gazetecilik, öğretmenlik yaptı. 1971 yılında Fransa’ya göç ederek sosyoloji ve sosyal psikiyatri öğrenimi görmeye başladı. Paris’e gider gitmez ilk şiir kitabını, 1973’te de ilk romanı Harrouda’yı yayımlattı. Şiir, roman ve denemelerinde göçmenler ve yersiz yurtsuz kalmışları çokça işledi. 1985’te yayımlanan Kum Çocuk ününü iyice artırdı. Bu romanın devamı niteliğindeki Kutsal Gece 1987 yılında yayımlandı ve Ben Jelloun bu kitabıyla Fransa’nın en prestijli edebiyat ödüllerinden olan Goncourt’u alarak bu ödüle layık görülen ilk Faslı yazar oldu. Yazarın Türkçeye çevrilen yapıtları şunlardır: Tanca’da Sessiz Bir Gün, Bay Ahlak’ın Çöküşü, Kör Melek, Kızıma Irkçılığı Anlatıyorum, Hata Gecesi, Kutsal Gece, Kum Çocuk, Yoksullar Hanı, Duygular Labirenti. 1984’te François Mitterrand tarafından kurulan Fransızca Yazını Yüksek Konseyi’ne de üye olan Tahar Ben Jelloun, karısı ve kızlarıyla birlikte Paris’te yaşıyor.
