Le site principal de l'IUGM, le pavillon Côte-des-Neiges, a été érigé en 1930 par la congrégation des Sœurs grises pour y loger l'Institut Nazareth pour les aveugles. En 1942, l'édifice est loué au ministère de la Défense nationale du Canada durant la Deuxième Guerre mondiale et il devient un centre d'entraînement pour l'Aviation royale canadienne. L'école militaire se transforme ensuite en hôpital pour Anciens Combattants en 1946 et il prend le nom de Queen Mary Veteran's Hospital, recevant une clientèle autonome. Avec le vieillissement progressif des vétérans de la Seconde Guerre mondiale se dessine la vocation future de l'établissement.

Plusieurs années plus tard, soit en 1978, le gouvernement du Québec se porte acquéreur de l'établissement fédéral, et le transforme complètement en un centre spécialisé en gériatrie et en gérontologie. Il prend alors le nom de Centre hospitalier Côte-des-Neiges. Affilié à l'Université de Montréal depuis 1983, le ministère de la Santé et des Services sociaux confirme son expertise dans les soins aux personnes âgées en lui accordant le statut d'institut universitaire en 1997, ce qui amène sa nouvelle appellation d'Institut universitaire de gériatrie de Montréal.

Au cours des dernières années, l'établissement a poursuivi sa consolidation en développant de nouveaux programmes et en innovant sur le plan des nouvelles pratiques professionnelles.

Le siège social de l'IUGM est situé au pavillon Côte-des-Neiges. Le pavillon Alfred-DesRochers, inauguré en 1982, a été nommé en hommage au poète québécois Alfred DesRochers.

L'IUGM comprend aussi un Centre de recherche qui jouit d'une réputation internationale en gérontologie et gériatrie. Créé en 1982, il regroupe près de 250 chercheurs, étudiants et professionnels spécialisés dans le processus du vieillissement et les maladies de l'âge avancé.