Aanvankelijk leek het er op dat Robert Wise alle kansen zou krijgen toen hij studeerde aan het Franklin College en de Universiteit maar de armoede waarin zijn familie leefde en de moeilijke periode van de Depressie deden hem de spreekwoordelijke das om waardoor hij dus vroegtijdig zijn studies moest stopzetten. Zijn oudere broer David werkte als boekhouder bij RKO en kon hem op die manier aan werk helpen. Robert kwam terecht op de afdeling geluidseffecten als assistent-monteur en kon al snel doorstromen naar de functie van montage-assistent en zelfs montageleider. Zo verzorgde hij samen met William Hamilton de montages voor films als The Story of Vernon and Irene Castle en The Hunchback of Notre Dame.  Begin de jaren '40 werkte hij aan Citizen Kane en The Magnificent Ambersons van Orson Welles maar ook All That Money Can Buy en The Fallen Sparrow dienen zeker vermeld te worden.

Zijn verantwoordelijkheid voor The Magnificent Ambersons was bijzonder want toen Orson Welles vertrok met een oorlogsopdracht bleef de film onafgewerkt achter en was het aan Robert Wise om er zijn ding mee te doen. Niet iedereen is het er over eens dat Wise ondanks alles knap werk afleverde wat zijn bijdrage aan de film betreft, maar de waardering die hij kreeg (Oscar-nominatie!) moe(s)t de criticasters toch wel de mond snoeren. Wise deed zelfs meer dan van hem verwacht werd voor de scène in de film waarin de oude Majoor sterft - de regie ervan - wat niet alleen leidde tot een hoogtepunt in de film maar ook zorgde voor zijn aanstelling als regisseur alhoewel het feit dat Gunther von Fritsch zich voor de horrorprent Curse of the Cat People niet aan het vooropgestelde schema kon houden hem ook wat hielp. Wise nam het van hem over en blikte de film in slechts tien dagen in (!). Hij maakte hierna ook twee kortfilms, Mademoiselle Fifi en The Body Snatcher.  Er waren ook nog wat mindere (B-)succesjes bij RKO (o.m. Born to Kill) terwijl The Set-Up uit deze periode van zijn carrière voor velen één van de beste boksdrama's ooit en eigenlijk een keerpunt in zijn carrière was. Het was dan ook geen verrassing dat de film de Critics Prize won op het Filmfestival van Cannes. Robert Wise hield het voor bekeken bij de Studio toen Howard Hughes de leiding bij RKO overnam.

In de jaren '50 volgden onder andere nog The Day the Eart Stood Still, Executive Suite, Somebody Up There Likes Me, I Want to Live en Odds Against Tomorrow.

De jaren '60 bleken heel belangrijk in de carrière van Robert Wise. In 1962 won hij voor West Side Story niet alleen een Oscar voor Beste regie maar ook die voor Beste film. Het was iets wat hij vier jaar later nog eens over deed met The Sound of Music.

In 1967 ontving Robert Wise uit de handen van Arthur Freed, toen nog de President van de Academy, de Irving G. Thalberg Memorial Award.

Vanaf de jaren '70 heeft Robert Wise nog maar een handvol films geregisseerd, meestal wel spectaculaire films met een groot budget maar die haalden niet langer zijn niveau van vroeger.

In 1986 werd hij verrassend genoeg gevraagd door Emilio Estevez om als uitvoerend producent op te treden voor Wisdom. Wise ging in op het verzoek maar keerde drie jaar later terug naar de regisseursstoel. Met Rooftops, een film die veel kijkers wel heel erg deed (terug)denken aan West Side Story.

Robert Wise is zowel President/voorzitter van de Directors Guild of America als van de Academy of Motion Picture Arts and Sciences geweest.

Wise trouwde in 1942 met actrice Patricia Doyle, hun huwelijk hield stand tot aan haar dood in 1975.