Wise rednezőként 1943-ban debütált The Curse of the Cat People című horrorfilmjével, majd különféle zsánerekben próbálta ki magát: 39 filmet rendezett. Volt közte sci-fi, dráma, háborús történet és western. Mégis leginkább a musical műfaja fűződik a nevéhez.

Romeo és Júlia New Yorkban
West Side Story
A West Side Story-ért rendezői Oscar-díjat kapott 1961-ben (Jerome Robbins-szal együtt), 1965-ben A muzsika hangja című musicalért pedig újra megjutalmazták az arany szobrocskával. Mindkét alkotás a legjobb film díját is megkapta, így a produceri díjakat is bezsebelhette. Wise-t összesen hétszer jelölték Oscarra.

A Romeo és Júlián alapuló, Leonard Bernstein által megzenésített West Side Story 10 Oscar-díjat vihetett haza abban az évben. A nácik által megszállt Ausztriából menekülő zenész család történetét bemutató A muzsika hangja pedig 5 Oscart érdemelt ki, és éveken keresztül minden idők legnagyobb bevételű filmje volt. A siker a két főszereplőnek Julie Andrews-nak és Christopher Plummer-nek is köszönhető volt.

Utolsó nagyobb filmje az 1979-es Star Trek: Űrszekerek volt, utána félig-meddig visszavonult. '89-ben még készített egy Gyilkos tánc című kevésbé sikeres városi musicalt, majd 200-ben Peter Falk főszereplésével egy tévéfilmet, a Viharos vakáció-t.

A ma kezdődő San Sebastian Filmfesztiválon Wise filmjeiből retrospektív vetítést tartanak.