1875年生まれ。本名をシュレージンガーという。マーラーのすすめで改名した。
ハンブルク市立歌劇場、ウィーン宮廷歌劇場でマーラーの助手をつとめる。その後ライプチヒ・ゲヴァントハウスなどの指揮者を歴任している。ナチス台頭後、アメリカに亡命。1962年にビバリーヒルズで没している。没後４０年が過ぎようとしているが、彼のマーラー録音は今も語り継がれ、歴史的な名盤となっているものが多い。
ワルターは単なる「マーラーの愛弟子」を超えて、マーラーの理解者であり、マーラーの友人であり、マーラーの熱心な支持者であった。マーラーとともに生き、マーラーの日常、音楽性、感情等々を肌で感じてきた人物である。マーラー亡き後、1911年に「大地の歌」を、1912年に「第９番」を初演したのもワルターであった。さらにクックによる「第１０番」の「完成」に関して、アルマがそれを承諾したことに「怒り」の手紙を送り、食い止めようとしたのもワルターであった。
ワルターはマーラーに関する著作も多く残しているが、その中の『グスタフ・マーラー−一つの肖像』で、マーラーの風貌について次のように記している。「私が就任の挨拶を終えて、ポリーニの所から出てくると、劇場事務局の中にはグスタフ・マーラーその人が立っていた。顔色は蒼白く、痩せぎすで、体つきは小柄で顔が細長く、そそり立った額のまわりに真っ黒な髪が縁取りをなしている。眼鏡のガラスの背後では意味ありげな目が輝いている。顔には苦渋に満ちていながらユーモアのある皺が刻まれ、それらは彼が人と話していると驚くほどの表現の変化を見せる。これはまさにクライスラー（小説『牡猫ムルの人生観』にでてくる登場人物）の興味深い、デモーニッシュな、戦慄的な化身だ」
『マーラー 人と芸術』では、マーラーという人格が多くの誤解を生む存在であり、さらにそれが時に誤解でなく、彼そのものであり、一筋縄ではいかない、奥の深い人物であることを伺わせる。
ナチスがマーラーを抹殺しようとしたとき、ワルターはアメリカに亡命するが、ナチの弾圧下にあっても、また終戦後も、そしてそれ以降もマーラーの命を灯し続けた。マーラー協会の設立も彼の尽力によるところが大きい。マーラーを語るとき、ワルターの存在は無視できないほど大きい。貴重な存在だと思う。