Родился 4 сентября 1976 года в Ленинграде в семье кинорежиссёра Алексея Юрьевича Германа и автора сценариев Светланы Кармалиты. Внук писателя Юрия Германа.
В 2001 году окончил режиссёрский факультет ВГИКа (мастерская Сергея Соловьёва и Валерия Рубинчика), работал на киностудии «Ленфильм».
Алексей Герман-старший в телеинтервью заявлял, что Герман-младший до своего первого фильма «Последний поезд» снял и другой, неизвестный широкой публике фильм. В 2015 году в конкурсе Берлинского кинофестиваля участвовал фильм Алексея Германа-младшего «Под электрическими облаками». Фильм был удостоен «Серебряного медведя» за выдающиеся достижения в области киноискусства (кинооператоры Евгений Привин и Александр Михальчук).
В 2018 году вышел его фильм «Довлатов», о нескольких днях из жизни писателя Сергея Довлатова в 1971 году. После этого режиссёр начал работу над фильмом «Воздух», который рассказывает о советских лётчиках во время войны.
Жена — Елена Окопная, с 2015 года — художник-постановщик на всех картинах Германа.