Le probleme general etudie dans cette these est celui de la regression lineaire en grande dimension. On s'interesse particulierement aux methodes d'estimation qui capturent la sparsite du parametre cible. Une methode populaire pour estimer le parametre inconnu de la regression dans ce contexte est l'estimateur des moindres carres penalises par la norme l1 des coefficients, connu sous le nom de LASSO. Les contributions de cet ouvrage portent sur l'etude de variantes de l'estimateur LASSO pour prendre en compte soit des informations supplementaires sur les variables d'entree, soit des modes semi-supervises d'acquisition des donnees. Plus precisement, les questions abordees dans ce travail sont: l'estimation du parametre inconnu lorsque l'espace des variables explicatives a une structure bien determinee (presence de correlations, structure d'ordre sur les variables ou regroupements entre variables); la construction d'estimateurs adaptes au cadre transductif, pour lequel les nouvelles observations non etiquetees sont prises en consideration. Ces adaptations sont en partie deduites par une modification de la penalite dans la definition de l'estimateur LASSO."