Cette these presente les resultats d'une etude experimentale et theorique sur la stabilite non-lineaire des ecoulements hydrodynamiques en rotation differentielle. Une analyse de mesures anterieures a ce travail effectuees dans des experiences de laboratoire de type Couette-Taylor nous a permis de deriver un critere de stabilite ainsi qu'une prescription du type viscosite turbulente pour le transport du moment cinetique. L'etude experimentale complementaire que nous avons menee nous a permis de mettre en evidence des regimes de rotation instables vis a vis de perturbations aux amplitudes finies, qui demeuraient jusqu'a maintenant inexplores. Nous presentons egalement quelques proprietes des ecoulements moyens turbulents ainsi que des fluctuations de vitesse, en particulier leur evolution en fonction du nombre de Reynolds. Par des arguments physiques simples, nous derivons des parametres de stabilite, des lois d'evolution des fluctuations turbulentes, ainsi qu'une expression de la viscosite turbulente compatible avec notre premiere prescription. Finalement, nous concluons par une application de cette viscosite a un modele simple de disques d'accretion."