Ele formou grupos com Phat Kat (1st Down) e com o falecido Proof (5 Elementz), antes de se estabilizar com T3 e Baatin no Slum Village, onde criou impacto no mundo da música através de álbuns aclamados pela crítica como Fan-Tas-Tic (Vol. 1) e Fantastic, Vol. 2.

O trabalho de Dilla atraiu a atenção do A Tribe Called Quest. Dilla desenvolveu algumas jóias para o platinado quarto álbum do coletivo: Beats, Rhymes, and Life. Estamos falando de faixas como Get a Hold, 1nce Again, Keep It Movin', Word Play e Stressed Out.

Além disso, Dilla criou vários singles clássicos para artistas como De La Soul (Stakes Is High), The Pharcyde (Drop," "Runnin'), Q-Tip (Vivrant Thing, Breathe & Stop), Janet Jackson (Got 'Til It's Gone), Common (The Light) e Erykah Badu (Didn't Cha Know, "Cleva").

Em 2004, Dilla foi oficialmente diagnosticado com lupus e TTP - uma rara e incurável desordem sanguínea. A doença impediu que Dilla saísse em turnê e fez com que ele perdesse peso de forma considerável.

Sentindo que o fim estava próximo, Dilla mergulhou de cabeça no trabalho e terminou em 2006 seu último álbum, Donuts. O registro foi lançado em 7 de fevereiro, apenas três dias antes de Dilla falecer aos 32 anos de idade.

O legado de Dilla tem crescido de forma considerável ao longo dos quatro anos de sua morte. Muitos artistas ainda o citam em suas músicas, além de utilizarem seu fantástico catálogo de batidas para trabalharem.

A memória de J Dilla também permanece viva através da J Dilla Foundation, que tem como objetivo descobrir a cura do lupus.

J Dilla deixou duas filhas e seu irmão mais novo, Illa J, que lançou em novembro de 2008 seu álbum de estréia, Yancey Boys.