Nacido en Brooklyn (Nueva York) el 20 de junio de 1928, Landau trabajó de dibujante en el diario New York Daily News antes de comenzar su carrera como actor.
Influido por la obra de Charlie Chaplin, hizo su debut en Broadway en 1957 y su primer papel importante en el cine llegó en 1959 con “North by Northwest” de Hitchcock.
Además de por su papel como Rollin Hand en la serie de televisión “Mission: Impossible”, que protagonizó junto a su entonces esposa, Barbara Bain, Landau será recordado por sus interpretaciones en “Tucker: The Man and His Dream”, de Francis Ford Coppola, y “Crimes and Misdemeanors”, de Woody Allen, entre otras.
También por su caracterización de Bela Lugosi en el filme de Tim Burton “Ed Wood” (1994), papel por el que recibió un Óscar.
A Landau le sobreviven dos hijas, Susan y Juliet.