監督として3度解雇されもはや現場復帰は不可能と思われていたが、1995年の11月にニューヨーク・ヤンキースの監督に就任する。彼のそれまでの実績から、ニューヨークのメディアはトーリを監督として迎えたチームをこぞって批判。"Clueless Joe (訳の分かっていない、トンチンカンなジョー)”とまで酷評した。しかし翌1996年にヤンキースを18年ぶりにワールドシリーズに導き、1998年から2000年にかけてワールドシリーズ3連覇を達成。長らく低迷していたヤンキース王朝の完全復活を実現する。2007年6月7日の対シカゴ・ホワイトソックス戦ではメジャー史上10人目の監督通算2000勝を達成し、メジャーリーグ史上初めて「選手として2000本安打、監督として2000勝」を達成した。ヤンキース監督時代の12年間すべてでポストシーズン進出を果たした(地区優勝10回、ワイルドカード獲得2回)。