Nach seinem Abschluss an der HEC im Jahr 1966 ging er an die Ecole Nationale de l’Administration, die er 1972 als Promotion Charles de Gaulle verließ. Er trat in die Direction du Trésor ein und bekleidete verschiedene Posten in den vertraulichen Räumen der Republik: Direktor des Schatzamtes, dann 1981 Kabinettsdirektor unter Jean-Pierre Chevènement, dem damaligen Minister für Forschung und Technologie.
Seine Kompetenzen im industriellen Bereich führten ihn an die Spitze der :
- SNECMA, am 5. Juli 1989,
- Aérospatiale, im Juni 1992.
- Louis Gallois verdient sich seine Sporen als Verhandlungsführer an der Spitze der SNCF.
- Von Juli 1996 bis Juni 2006 ist er für zahlreiche Reformen innerhalb des Staatsunternehmens verantwortlich.
- Am 2. Juli 2006 wurde er zum Co-Vorsitzenden von EADS ernannt.
- Am 9. Oktober 2006 wurde er zum Vorsitzenden von Airbus ernannt.
- Von 2014 bis 2021 ist er Vorsitzender des Aufsichtsrats von PSA Peugeot Citroën.