La loi constitutionnelle du 28 mars 2003 a renforcé et étendu le support constitutionnel de la décentralisation, afin de permettre aux départements de jouer pleinement leur rôle dans la réforme des structures administratives et la modernisation des services publics.
Le 1er août 2003, deux lois organiques autorisent les collectivités territoriales à expérimenter des dispositifs novateurs et à soumettre certains projets au référendum local. La loi du 29 juillet 2004 garantit, quant à elle, l'autonomie financière des collectivités locales.

Enfin, la loi du 13 août 2004 relative aux libertés et responsabilités locales opère de nouveaux et importants transferts de compétences et de moyens de l'État vers les collectivités locales afin de favoriser une gestion de proximité et de rapprocher la décision des citoyens. L'État confie ainsi aux départements la gestion complète du RMI, allocation et insertion comprises, celle du Revenu Minimum d'Activité (RMA), du Fonds solidarité logement (FSL) et du Fonds d'aide aux jeunes (FAJ).
L'ensemble de ses compétences (Lutte contre la précarité, personnes âgées, personnes handicapées, protection de l'enfance, aide aux familles en difficulté) fait du Conseil général l'acteur principal des politiques sociales dans le département.

Cette seconde étape de la décentralisation conforte également le rôle d'aménageur du Conseil général. C'est ainsi qu'en 2005, une grande partie des routes nationales sont confiées aux départements. Enfin, le Département qui construit les collèges et exerce la responsabilité du transport scolaire, devient responsable de la carte des secteurs scolaires. Ces transferts de compétences sont accompagnés d'un transfert de personnel : une partie des agents de la Direction départementale de l'Équipement et les agents techniques des collèges rejoignent les effectifs du Conseil général.

En 2009, la réforme des tutelles instituant la mesure d'accompagnement social personnalisé et la généralisation du Revenu de Solidarité Active (RSA), confie aux conseils généraux de nouvelles responsabilités dans le domaine social.