Жан-Пьер Шевенман родился 9 марта 1939 года в Бельфоре (Франция) в семье учителей.
В свое время закончил одну из самых престижных высших школ Франции - Национальную школу администрации (l’ENA), и стал коммерческим советником при министерстве финансов.
Жан-Пьер Шевенман считается одним из основателей и членов современной Социалистической партии Франции. Также он основатель и первый президент (ныне имеет статус почетного председателя) «Республиканского и гражданского движения», изначально носившего название «Движение граждан».
Шевенман пять раз входил в состав левых правительств, находившихся при власти в с 1981 по 1986 год, с 88-го по 93-й и с 1997 по 2002-й.
Он был депутатом Национального собрания (нижняя палата) с 1973 по 2002 год. Два года занимал пост министра науки и техники, столько же - министра национального образования. С 1988 по 1991 год - министр обороны, а с 1997 по 2000-й - министр внутренних дел.
Кроме того, с 1982 по 2007 года он мэр родного города Бельфор.
Шевенман - автор более 20 книг. В 2002 году он участвовал в президентских выборах как кандидат «Движения граждан», получил 5,33 %, заняв 6-е место.
На выборах в 2012 году считается кандидатом от партии «Республиканское и гражданское движение».
Женат, имеет двух сыновей - Рафаеля и Жан-Кристофа.