Fondé en février 1965, avec vingt-huit choristes, c'est sous son directeur-fondateur Yves Courville que le Choeur polyphonique de Montréal (CPM) construit ses assises et définit ses orientations. À partir de 1970, il double ses effectifs et présente des séries de concerts dits spirituels ou de Noël avec orgue, et en fins de saisons avec orchestre, des concerts de musique du grand répertoire classique. Depuis janvier 1972, le CPM est le choeur attitré de la Basilique-Cathédrale Marie-Reine-du-Monde de Montréal; il y assure le chant aux messes dominicales de onze heures ainsi qu'aux grandes fêtes et aux cérémonies officielles. En février 1973, le CPM fonde sa propre maîtrise d'enfants, Les Petits chanteurs de la Cathédrale. Jusqu'en juin 2006, date de sa dissolution, cette maîtrise d'enfants se joignait régulièrement aux choristes du CPM lors de concerts et de cérémonies officielles à la cathédrale de Montréal.
En 1974-1975, le CPM s'incorpore comme organisme sans but lucratif, se dote de ce fait d'une réglementation et d'un conseil d'administration et affirme son idéal de promouvoir l'immense répertoire de la musique chorale. Pour réaliser cet objectif, le CPM participe, depuis 1975 à plusieurs concerts et il assure annuellement la production d'au moins un concert avec orchestre.
Sous ses différents directeurs, Yves Courville (1965-1975), Guy Robitaille (1975-1978), Miklos Takacs (1978-1981), Jocelyne Melanson (1981-1983), Renée O'Dwyer (1983-1994), Yannick Nézet-Séguin (1994-2000) et Pierre Turcotte (2000-2003), le CPM prend un essor considérable, participe à plusieurs enregistrements, présente de nombreux concerts avec orgue, avec piano ou avec orchestre; il se façonne une solide réputation qui le conduit en France (1979 et 1987), en Belgique (1981) et en Italie (1992). Le CPM est actuellement sous l'habile direction de Louis Lavigueur.
Pour ses concerts de fin de saison, le CPM travaille tour à tour avec des orchestres de musiciens professionnels ou des jeunes musiciens en formation, rassemblés pour la circonstance, tantôt avec des orchestres de jeunes musiciens, tels l'Orchestre civique (devenu Symphonique) des Jeunes de Montréal, l'Orchestre Symphonique de Mont-Royal et l'Ensemble orchestral de Montréal. dans le passé, la direction des concerts a été parfois confiée à des chefs invités tels : Raymond Dessaint, Jacques Clément et Jacques Faubert.