Ce travail de these a ete realise au departement de genie electrique et a l'Institut de genie biomedical de l'Ecole Polytechnique de Montreal sous la direction du professeur Frederic Lesage, Ph.D., la codirection du professeur Michel Delfour, Ph.D. du departement de mathematiques et de statistiques de l'Universite de Montreal et la codirection industrielle de Roch M. Comeau, Ph.D., president de Rogue-Research Inc (www.rogue-research.com). Il presente certains outils mathematiques visant a analyser le signal detecte en imagerie optique diffuse et a en extraire la reponse hemodynamique. Il fait aussi l'objet de nouveaux developpements mathematiques sur le probleme direct utilisant une methode d'elements de frontiere basee a partir d'images anatomiques provenant de l'imagerie par resonance magnetique permettant l'amelioration de la quantification des images optiques reconstruites. Cette etude propose egalement une revue de litterature globale et diversifiee renvoyant le lecteur a plusieurs concepts retrouves en imagerie cerebrale."