Jean-Pierre Martin est né le 15 mars 1948 à Nantes.
Après des études secondaires au lycée Jules Verne à Nantes, il est interne en hypokhâgne à Paris au lycée Louis-le-Grand, et termine une licence de philosophie à la Sorbonne en septembre 1968.
Il rejoint la Gauche prolétarienne en 1969, et après une maîtrise de philosophie, travaille en usine pendant quatre ans comme établi : d’abord à Saint-Nazaire (en particulier aux établissements Baudet, fabricant de caravanes, et à Sud Aviation), puis à Saint-Etienne (une fonderie, Socober la soupape, les Aciéries du Furan, et enfin deux ans à Creusot-Loire comme aide-lamineur). Entretemps, il est condamné à deux mois de prison ferme pour « apologie du crime d’incendie volontaire ».
Il part vivre à la campagne en 1975. D’abord trois ans dans le nord-Finistère, puis près de dix ans en Auvergne, dans un hameau perché à mille mètres d'altitude. Pendant une dizaine d’années, il exerce divers métiers : chantiers, artisanat, fabrication et vente sur les marchés de ceintures de cuir et de sabots suédois (d’où le titre d’un récit publié chez Fayard en 2004, Sabots suédois). Cette vie marginale est ponctuée de nombreux voyages, en particulier en Amérique et en Asie. Pendant cette période, il travaille intensément le piano jazz, apprend l’harmonie et joue en trio ou en quartet.
En 1987, il décide de préparer par correspondance les concours de l'agrégation et du CAPES de Lettres auxquels il est reçu cette année-là. Après trois ans d’enseignement en lycée, il entreprend une thèse sur Michaux (qui sera éditée chez Corti en 1992), et enseigne aux États-Unis, à l’Université d’Oregon. Il pratique par intermittences, avec des musiciens de jazz, ce qu'il appelle la « lecture be-bop ». Nommé successivement maître des conférences à l’Université Lyon 2 en 1993, professeur des universités en 2000, membre de l’Institut universitaire de France en 2007. Membre depuis 2011 du comité d’orientation et de prospective du « Forum vies mobiles », il a participé au comité de rédaction des Temps modernes, dans les dernières années de la revue, jusqu’en 2018.
Aujourd'hui professeur émérite de littérature, membre honoraire de l’Institut universitaire de France, il est lauréat en 2019 de la bourse Cioran pour La curiosité, une raison de vivre (éditions Autrement). Il anime un atelier d’écriture à distance dans le cadre de l’école « Les mots » (4 rue Dante, 75005 Paris). Il vit et écrit en Ardèche.
Les premiers récits qu’il a adressés au début des années 90 à un éditeur (à Jacques Réda, pour la NRF) ont été réunis chez José Corti sous le titre Le piano d'Epictète. Parallèlement à une biographie monumentale, Henri Michaux (Gallimard, 2003), il a commencé un cycle autofictionnel sous une forme romanesque (la vie ouvrière dans Le laminoir, Champ Vallon, 1995, la vie artisanale dans Sabots suédois, Fayard, 2004, la vie pianistique dans Real book, autopianographie, Seuil, « Fiction & Cie », 2019), publié des romans (Les liaisons ferroviaires, Champ Vallon, rééd. J’ai lu, 2011, La nouvelle surprise de l’amour, Gallimard 2016) ainsi que deux récits-essais dans la collection « L’un et l’autre » chez Gallimard (Queneau losophe, 2011 et L’autre vie d’Orwell, 2013), entrepris une sorte d’anthropologie littéraire à partir de la lecture des grands textes de la littérature et de la pensée critique (La bande sonore, 1998, Corti, Le livre des hontes, 2006, Seuil, Éloge de l'apostat, 2010, Seuil, Les écrivains face à la doxa, Corti, 2011, et La curiosité, 2019, Autrement).
Mes fous, paru aux éditions de L'Olivier à la rentrée littéraire de septembre 2020, a figuré dans la deuxième sélection du Goncourt, dans la sélection du Goncourt des lycéens, et a été finaliste du prix Médicis.
Le Monde des Martin (L’Olivier, 2022) est un grand récit patronymique qui rassemble « des vies de saints, de soldats, de missionnaires, de colons, de héros, de salauds, d’escrocs, d’artistes, d’explorateurs, du IVème siècle à nos jours, pour la plupart, des oubliés ou des anonymes, ayant un seul point commun, leur nom de famille : Martin ».