Franc-tireur du cinéma français, ardent défenseur du cinéma populaire, personnage fort en "gueule", Jean-Pierre Mocky débute en tant qu'acteur dans le film Vive la Liberté, en 1946, mais ne devient véritablement célèbre qu'en interprétant le poète (non-crédité) d'Orphee (1949) de Jean Cocteau. Suivent, entres autres, son rôle d'Albert de Morcerf dans Le Comte de Monte-Cristo (1955), et celui de François Gérane dans La Tête contre les murs de Georges Franju (1958), film dont il écrit le scénario et qu'il voulait à la base réaliser lui même. Au théâtre, on l'aperçoit également dans Le Roi Pêcheur, de Julien Gracq, en 1955.
Sa carrière de réalisateur commence en 1954, où il est le second assistant réalisateur de Luchino Visconti sur le plateau de Senso ; puis en 1959 avec Les Dragueurs, comédie légère racontant les déboires de deux hommes lors d'une nuit parisienne. Très tôt, il s'affirme en marge de la production traditionnelle en signant des oeuvres cyniques et pleines d'humour noir, passant au crible la télévision (La Grande Lessive, 1968), l'administration (Les Compagnons de la marguerite, 1967), la presse (Un linceul n'a pas de poches, 1975), la crédulité et la candeur des foules (Le Miraculé, 1987), ou la politique (Une nuit a l'Assemblee nationale, 1988, et surtout Snobs! en 1962).
Scénariste de ses films, il donne tout au long de sa carrière la part belle à Jean Poiret, et à Michel Serrault, ses acteurs fétiches (Le Miraculé). Après un détour par le fantastique (Litan en 1982), il signe l'un de ses meilleurs long-métrages avec la comédie policière Y a-t-il un Francais dans la salle ? (1982), sorte de satire complexe sur la corruption des médias, de la politique, et de la police, par ailleurs basée sur l'oeuvre éponyme de Frédéric Dard. Avec A mort l'arbitre ! l'année suivante, il reste dans le registre de la veine comique en dénonçant avec férocité le monde du football. Cette même décennie, il signe des films difficilement exploitables, comme Les Saisons du plaisir, dans lequel Jacqueline Maillan campe une vieille fille aux moeurs légères.
Les années 1990-2000 sont marquées par de nombreuses vicissitudes pour le cinéaste. Alors que le public le suit de moins en moins, il a de plus en plus de mal à financer ses films. Il s'endette aussi lourdement en tentant de sauver son cinéma Le Brady, antre mythique du cinéma fantastique jadis fréquenté par François Truffaut. Si en 2001 il réalise, scénarise, et s'octroie le premier rôle dans Les Araignées de la nuit et La Bête de miséricorde, les films sont des échecs cuisants.
Avec Le Furet (2003) puis Grabuge ! (2005), il se consacre exclusivement à la réalisation et retrouve son complice Michel Serrault, avec qui il scelle sa dixième collaboration.
Après s'être consacré exclusivement à la réalisation jusqu'en 2011 avec des films comme Le Deal, Crédit pour tous ou encore Les Insomniaques, on le retrouve en tant qu'acteur dans l'Americano de Mathieu Demy, avec également la sublime Salma Hayek au casting.
