Der 1867 in Parma geborene italienische Dirigent studierte in seiner Heimatstadt und in Mailand Cello und Komposition. 1886 sprang er bei einer Aida-Aufführung in Rio de Janeiro für den erkrankten Dirigenten ein und beeindruckte dabei derart, dass er weitere Dirigate auf der Tournee übertragen bekam und anschließend eine Stelle am Teatro Regio di Torino erhielt.
In den nächsten Jahren brachte er u.a. Ruggiero Leoncavallos Bajazzo und Puccinis La Boheme zur Uraufführung. Mit Guiseppe Verdi begann mit den Quattro pezzi sacri eine lebenslange Zusammenarbeit und Freundschaft. 1898 wurde Toscanini Direktor der Mailänder Scala und brachte dort Wagners Meistersinger und Siegfried, Tschaikowskys Eugen Onegin sowie Debussys Pelléas et Mélisande auf die Bühne.
An der New Yorker Metropolitan Opera wurde er 1908 Chefdirigent, 1921 Generalmusikdirektor an der Scala. Mit dem Aufkommen des italienischen und des deutschen Faschismus (der ihn in offene Feindschaft z.B. zu Furtwängler brachte) orientierte sich Toscanini zunehmend nach Amerika. 1929 übernahm er die New Yorker Philharmoniker, 1937 das (für ihn neu gegründete) NBC Symphony Orchestra.