Родился в семье писателя Сергея Владимировича Михалкова и поэтессы и переводчицы Натальи Петровны Кончаловской. Названный с рождения Андреем, в самом начале творческой деятельности молодой режиссёр стал именовать себя Андрон, а также принял двойную фамилию — Михалков-Кончаловский.
Находясь в юности под влиянием творчества Акиры Куросавы, Кончаловский дебютировал фильмом «Первый учитель» по повести Чингиза Айтматова.
Международное признание приносит Кончаловскому вышедший на экраны в 1974 году фильм «Романс о влюблённых», удостоенный Гран-при кинофестиваля в Карловых Варах. В 1979 году «Сибириада», четырёхсерийная мелодрама о нескольких поколениях покорителей Сибири, была удостоена Гран-при Каннского кинофестиваля.
В 1972 году получил звание лауреата Государственной премии Казахской ССР после всесоюзного успеха фильма «Конец атамана» по сценарию Кончаловского (о ликвидации чекистами белого атамана Дутова, 30 млн зрителей за 1972 год).
В 1980 году уехал в США, в Голливуд. Позже Кончаловский разочаровался в американском кино и в начале 1990-х вернулся на родину.
В 2005 году основал «Продюсерский центр Андрея Кончаловского», который создаёт программы для ведущих каналов российского телевидения — НТВ, «Россия», «Культура», «Звезда», продюсирует театральные постановки, осуществляет книгоиздательские проекты.
В начале 2014 года Кончаловский, вынужденно надолго застряв во Франции из-за травмы дочери, возобновил творческую деятельность.
В сентябре 2014 года был удостоен главного режиссёрского приза Венецианского кинофестиваля, «Серебряного льва», за постановку фильма «Белые ночи почтальона Алексея Тряпицына».
Учился в Центральной музыкальной школе по классу фортепиано у Р. Ю. Чернова (до 1952), в Музыкальном училище при Московской консерватории у А. Г. Руббаха (закончил в 1957) и в Московской государственной консерватории у Л. Н. Оборина (1957—1959, не закончил). В 1964 году окончил режиссёрский факультет ВГИКа (мастерская Михаила Ромма)