Fils du sculpteur Paul Landowski, il montre des dons précoces pour la musique et prend des leçons de piano avec Marguerite Long.

Il est ensuite l'élève, au Conservatoire de Paris, de Noël Gallon (écriture), et d'Henri Busser (composition).

Ses premières oeuvres sont exécutées un peu avant la guerre, notamment Les Sorcières et Les Sept Loups, par Pierre Monteux en 1937, alors qu'il est encore élève au Conservatoire.

Ses oeuvres les plus importantes seront créées après guerre, notamment Le Rire de Nils Halerius, légende lyrique et chorégraphique (1944-48), qui marque ses débuts à la scène, puis Jean de la Peur (1949).

Sa notoriété s'étend rapidement, ce qui lui vaudra, en 1950, le Grand Prix de composition de la Ville de Paris.

La décennie 50/60 est une période féconde, qui verra naître, entre autres, le Concerto pour ondes Martenot et l'opéra Le Fou (1956).

A partir de 1960, il entame une carrière administrative très importante, qui lui vaudra successivement d'être directeur de la musique à la Comédie Française (1962-65), directeur de la musique au ministère des Affaires culturelles (1966-75), inspecteur général de la musique au ministère de l'Education nationale (1975), enfin directeur des Affaires culturelles de la Ville de Paris (1977-79).

Il est également élu à l'Institut (Académie des beaux-arts) en 1975, en remplacement de son maître Henri Busser.

Ces fonctions officielles particulièrement lourdes ne l'empêchent cependant pas de continuer à composer, notamment L'Opéra de poussière (1962), la Messe de l'Aurore (1977), deux symphonies (1963-64), Un enfant appelle (1979), écrit à l'intention du violoncelliste Mstislav Rostropovitch et de son épouse, la soprano Galina Vichnevskaïa, et l'opéra Montségur (1985).

En tant que compositeur, Landowski s'est affirmé comme un indépendant, à la fois ouvert au langage du XXe s. et réfractaire aux avant-gardes qu'il récuse.