Родился в Москве в семье Павла Васильевича и Анны Ильиничны Леоновых. Отец работал инженером на авиазаводе, мать была домохозяйкой. Евгений был вторым ребёнком в семье: брат Николай Павлович Леонов (19 февраля 1924—10 января 2017) был старше его на два года, работал авиаконструктором в Туполевском бюро. Жили в коммунальной квартире на Васильевской улице, занимая две небольшие комнаты.
Когда началась война, окончил только седьмой класс. По совету родителей устроился учеником токаря на авиазавод, на котором работал его отец. Во время войны там работала вся семья Леоновых.
С 1948 года выступал на сцене Московского драматического театра им. К. С. Станиславского (ныне Электротеатр Станиславский). С 1968 года — актёр Московский театра им. В. Маяковского. На этой сцене сыграл одну из лучших своих ролей — Ванюшина-отца в пьесе С. А. Найдёнова «Дети Ванюшина». В начале 1970-х у него возникли разногласия с художественным руководителем театра А. А. Гончаровым, который прощал актёру частое отсутствие в театре из-за съёмок в кино, но не мог простить съёмки в рекламе.
В 1974 году перешёл в Театр им. Ленинского комсомола (с 1990 — театр «Ленком»), который незадолго перед тем (в 1973 году) возглавил М. А. Захаров. Среди лучших ролей, сыгранных в «Ленкоме» — Иванов в одноимённой пьесе А. П. Чехова, Вожак в «Оптимистической трагедии» Вс. В. Вишневского и Тевье в «Поминальной молитве» Г. Горина — роль, за которую актёр был удостоен Государственной премии России.
С 1948 года снимался в кино. Популярность приобрёл после выхода на экраны фильма «Полосатый рейс». В кинематографе практически не гримировался, герои носят его внешность — небольшой рост, полная мешковатая сутулая фигура, круглое лицо с большим носом и толстыми губами, голова со значительной проплешиной. Глуховатый хриплый голос актёра моментально узнаваем.
Широко известны его работы по озвучиванию мультфильмов (прежде всего, роль Винни-Пуха в серии лент 1969—1972 годов).
В 1982 году был избран общественным директором Центрального Дома актёра имени А. А. Яблочкиной.
Интересовался футболом, болел за московское «Динамо».
Был членом КПСС с 1955 года.
В 1988 году во время гастролей в Германии в результате обширного инфаркта пережил клиническую смерть и перенёс экстренную операцию коронарного шунтирования, находился в коме 28 дней. Вернулся к актёрской деятельности через 4 месяца.
Скончался 29 января 1994 года, на 68-м году жизни, по причине отрыва тромба, собираясь на спектакль «Поминальная молитва». Похоронен в Москве на Новодевичьем кладбище.
В 1934—1941 годах учился в Московской средней школе №126 Советского района. В 1947 году окончил студию и был принят в Московский театр Дзержинского района. Осенью 1943 года поступил в Авиационный приборостроительный техникум им. С. Орджоникидзе (Московский колледж управления и новых технологий), участвовал в художественной самодеятельности. На третьем курсе ушёл из техникума и поступил на драматическое отделение Московской экспериментальной театральной студии при Московской областной филармонии, которой руководил Р. В. Захаров, балетмейстер Большого театра.