L’IMT a d’abord existé comme fédération de recherche des trois laboratoires suivants, unités mixtes de recherche du CNRS (UMR) : le Laboratoire de Statistique et Probabilités (LSP), le laboratoire Mathématiques pour l'Industrie et la Physique (MIP) et le Laboratoire Émile Picard.

Directeurs successifs de la fédération IMT (années de direction) : Henri Caussinus (1996-2000), Jean-Pierre Ramis (2001-2004) puis Pierre Degond et Michel Ledoux (2005-2006).

En 2007, ces trois UMR et la fédération ont administrativement disparu, pour donner naissance à l’actuelle UMR, qui porte le même nom que l'ancienne fédération : Institut de Mathématiques de Toulouse (IMT). L’IMT était alors structuré en 3 équipes correspondant aux périmètres des anciens laboratoires.

En 2020 a été inaugurée une nouvelle répartition en équipes : Analyse, Dynamique et géométrie complexe, Équations aux dérivées partielles, Géométrie topologie algèbre, Probabilités, Statistiques et optimisation.

Directeurs successifs de l'UMR IMT (années de direction) : Michel Ledoux (2007-2008), Michel Boileau et Jean-Pierre Raymond (2009-2010), Patrick Cattiaux (2011-2013), Serge Cohen (2013-2016), Vincent Guedj (2017-2019), Franck Barthe (2020-2024), Xavier Buff (2025-).