Михаил Глузский родился 21 ноября 1918 года в городе Киев, Украина. После смерти отца семья переехала в Москву, а затем в Азербайджан, где ребенок пошел в школу. В 1929 году снова вернулся в столицу. В Москве работал учеником слесаря, электромонтера, окончил вечернюю школу рабочей молодежи и увлекся театром в драматическом коллективе при клубе Мосторга. Участие в художественной самодеятельности сформировало прочное желание стать актером.
После двух лет безуспешных попыток поступления его приняли во вновь созданную Школу киноактера при киностудии «Мосфильм». Будущий актер попал к прекрасным педагогам: Михаилу Тарханову, Григорию Рошалю, Николаю Плотников, Владимиру Баталову. Преподавали и известные кинорежиссеры: Юрий Райзман, Михаил Ромм, Борис Барнет, кинооператор Анатолий Головня. В 1939 году Глузский дебютировал в кино, снявшись в кинофильмах «Девушка с характером», «Минин и Пожарский», «Семья Оппенгейм».
В 1940 году Михаила призвали в армию, где служил в команде при Центральном театре Советской армии. В годы Великой Отечественной войны участвовал во фронтовых бригадах. С 1946 года на протяжении 49 лет, Глузский работал в Театре-студии киноактера при «Мосфильме», иногда по приглашениям участвуя и в спектаклях других театров.
Всенародная известность и популярность Михаила Андреевича связаны с кино. Первыми заметными работами стали роли в фильмах «Тихий Дон» и «Тайна двух океанов». В обоих случаях Глузский сыграл роли отрицательных персонажей. Это амплуа, как нередко бывает в кино, «прилипло» к нему. Ему предлагались стереотипные роли, однако, в каждой находил лишь ему доступные черты, делая персонажи узнаваемыми и запоминающимися. Такой подход к профессии позволил актеру со временем переломить стереотипы, что удается далеко не каждому артисту.
После «Тихого Дона» Глузский не сидел без работы. «Монолог», «Последняя жертва», «Миссия в Кабуле» и еще десятки разноплановых ролей: в каждой артист играл убедительно. Широко известны работы Михаила Андреевича в комедии «Кавказская пленница, или Новые приключения Шурика», где великолепно исполнил роль администратора гостиницы, в приключенческой ленте «Последний дюйм», в котором рассказывалось о случае в североафриканской Акульей бухте. Убежденного большевика Фокича актер сыграл в драме Глеба Панфилова «В огне брода нет».
Среди фильмов, снискавших популярность, в репертуаре Глузского числятся «Живые и мертвые», «Пламя», «Десять негритят», «Тасс уполномочен заявить». Партнерами артиста становились Кирилл Лавров, Марина Неелова, Маргарита Терехова, Ольга Машная. В фильме Николая Губенко «Пришел солдат с фронта» актер воплотил на экране героя с сильным характером. Потеряв в боях руку, солдат возвращается домой, где его ждет более ужасная весть: супруга умерла, оставив дочь сиротой. Герой Глузского находит силы не только воспитать девочку, но и помочь родному селу восстановиться. К военной тематике относятся также фильмы с участием Михаила Глузского «На войне как на войне», «Освобождение». В военной драме «Украденный поезд» артист воплотил на экране образ офицера немецкой армии.
С 1987 по 1998 годы Глузский руководил мастерскими на актерском отделении Всероссийского государственного института кинематографа, выпустив два курса. Является Народным и Заслуженным артистом России, лауреатом множества премий, награжден орденами и медалями. До последних дней продолжал активно работать в театре, кино, на телевидении.
В 1997 году удостоился премии «Ника» за работу в фильме «Мужчина для молодой женщины», а через два года стал лауреатом премии в категории «Честь и достоинство». В новом веке актер появился в проектах «Бременские музыканты и Со», «Дальнобойщики», «На полпути в Париж». Последней работой актера стала его роль в юмористическом киножурнале «Ералаш».
Михаил Андреевич Глузский скончался 15 июня 2001 года в Москве в результате сердечной недостаточности. Похоронен артист на участке №12а Ваганьковского кладбища столицы.