С ранних лет интересуется театром. В 17 лет поступает в Академию драматического искусства Сильвио д’Амико, после чего играет в театре (в частности, в пьесах Луиджи Пиранделло и Теннесси Уильямса. С 1942 года — в кино. В 1953 году выступает партнёром Джины Лоллобриджиды по фильму режиссёра Марио Сольдати «Провинциалка» — за эту роль отмечен престижной итальянской кинопремией «Серебряная лента».
Вскоре после этого происходит знакомство Ферцетти с Микеланджело Антониони, который даёт ему главные роли в двух своих фильмах: «Подруги» (1955) и «Приключение» (1960). Ферцетти приносит новый кинообраз в итальянское кино неореализма — его элегантные и аристократичные герои приходят на смену бесшабашным мачо периода итальянского экономического чуда. В дальнейшем исполняет самые разные роли в картинах самых разных режиссёров, жанров и стран: «Три комнаты на Манхэттене» Марселя Карне (1965), «Каждому своё» Элио Петри (1967, за этот фильм Ферцетти получает вторую «Серебряную ленту»), «Однажды на Диком Западе» Серджо Леоне (1968), «На секретной службе Её Величества» Питера Ханта (1969), «Ночной портье» Лилианы Кавани (1974). Всего Габриэле Ферцетти исполнил роли более чем в 100 фильмах.