Jean Sulem ha studiato al Conservatorio di Parigi nella classe di Serge Collot. Nel 1981 Pierre Boulez lo sceglie come solista dell'Ensemble Intercontemporain. Molto attivo nella creazione contemporanea, ha eseguito nei più grandi festival internazionali pagine fondamentali del repertorio solistico contemporaneo per viola (Zimmermann, Maderna, Berio, Donatoni, Nunes, Grisey, Holliger, Ton That Tiet, Lévinas, Ligeti…) e ha ispirato numerose prime esecuzioni.

Da molti anni, Jean Sulem è partner musicale del pianista e direttore d'orchestra Sir András Schiff.

Accanto alla sua attività solistica, Jean Sulem porta avanti un'importante carriera come musicista da camera. Dalla sua fondazione nel 1981 è il violista del Quatuor Rosamonde, con cui svolge un'intensa carriera internazionale.

Nel 1989 succede a Serge Collot, diventando, all'età di trent'anni, professore di viola al Conservatorio Nazionale Superiore di Musica di Parigi. Tiene regolarmente corsi di interpretazione in Europa e negli Stati Uniti, ed è frequentemente invitato come membro di giuria in concorsi internazionali.