Di Palma egy szegény római családban született, anyja virágárus volt a Spanyol lépcsőn. Miután korán érdeklődést mutatott a fotózás iránt, két úttörő neorealista film asszisztense lett: Luchino Visconti Megszállottság (1943) és Rossellini Paisá (1946) című munkáiban.
Később kameraasszisztensként dolgozott a háború utáni Olaszország első nagy operatőrének, Gianni Di Venanzo-nak. 1956-ban már cameraman a Di Venanzo által fényképezett Kean, a zseni című filmben, melyet Francesco Rosi és Vittorio Gassman rendezett Edmund Kean színpadi művészetéről. Halálának hírére Rosi így jellemezte Di Palma képalkotói munkásságát: színhasználatával "új fejezetet nyitott a mozi történetében."
Operatőrként a figyelmet az 1960-as Ferrara hosszú éjszakája című Florestano Vancini által rendezett filmben keltette fel. A film a legjobb elsőfilmes rendezői díját nyerte el a Velencei Filmfesztiválon.
Di Palma ezekután még két másik rendező (Elio Petri és Giuliano Montaldo) debütálásánál is jelentős szerepet vállalt a 60-as évek elején. A Vancini-film egyik forgatókönyvírója, Pier Paolo Pasolini is felkérte első filmjének fotografálási munkáira, végül azonban A csórót más fényképezte.
Antonioni-val Di Venanzo révén A kiáltás és A barátnők forgatásán találkozott. 1963-ban már együtt tanulták a technikáját a Vörös sivataghoz használt Technicolornak. A forgatás téli helyszínen zajlott, azonban gyakran nemkívánatos napsütés nehezítette a munkálatokat. Di Palma elmagyarázta rendezőnek, hogy az általa használt mesterséges köd nem áll összhangban a belső jelenetek színvilágával. Di Palma végül sárgára festtette a füvet. "Michelangelo gyűlöli a zöldet", magyarázta.
A Nagyításban a fényképezés a történet központi eleme lett. Míg a Vörös sivatagban kétdimenziós hatásokat kerestek, itt Antonioni azt akarta, hogy mélyítsék a perspektívát, és teremtsék meg az ember és a tárgyak közötti tér érzetét.
'81-ben Di Palma Bernardo Bertoluccival dolgozott az Egy nevetséges ember tragédiája című filmben, majd '82-ben újra Antonionival az Egy nő azonosítása című filmjében. A 80-as években kezdődött Woody Allen-nel való 10 éves együttműködése, melyet szakmai pályafutásának legélvezetesebb periódusaként élt meg.
Allen ekkor kezdte felfedezni európai kötődéseit, melyhez Di Palma hiteles vizuális hátteret tudott bizotsítani. Ekkor készült a görög tragédia előadásának keretébe ágyazott A csodálatos Aphrodité, majd az Európában játszódó Varázsige: I love you, végül utolsó közös munkájuk, az Agyament Harry, melyben egyes vélemények szerint Di Palma ötlete volt az élességét vesztett filmszínész, Robin Williams jelenete.
Carlo Di Palma tavaly az Európa Filmakadémia életműdíját vehette át.