Александр Сергеев родился 2 августа 1955 года в селе Бутурлино, Нижегородская область. В 1977 году окончил радиофизический факультет Национального исследовательского Нижегородского государственного университета имени Николая Лобачевского по специальности «радиофизика».
В 1982 году в Институте Прикладной Физики Российской академии наук защитил диссертацию кандидата физико-математических наук по теме «Самовоздействие и трансформация интенсивных электромагнитных волн в магнитоактивной плазме». Позднее, там же защитил диссертацию доктора физико-математических наук и стал членом- корреспондентом Российской академии наук.
После окончания университета Сергеева приняли стажером-исследователем в Институт Прикладной Физики Российской академии наук в городе Нижний Новгород. С 1979 года на протяжении семи лет работал младшим научным сотрудником. В 1985 году стал старшим научным сотрудником. С 1991 по 1994 год Александр Михайлович занимал должность заведующего лабораторией. В 1994 году назначен заведующего отделом.
С 2001 по 2015 год Сергеев занимал пост заместителя директора ИПФ РАН. Параллельно, возглавляя отделение института. С 2016 года является академиком РАН. Член Отделения физических наук по физике и астрономии Академии наук, член Совета РАН по космосу.
В это же время являлся директором Института прикладной физики РАН. Одновременно занимая должности заведующего отделом сверхбыстрых процессов и заведующего сектором моделирования сверхбыстрых оптических процессов Отделения нелинейной динамики и оптики ИПФ. По совместительству: профессор кафедры общей физики радиофизического факультета Нижегородского государственного университета.
Александр Сергеев возглавлял группу российских ученых в проекте по детектированию гравитационных волн LIGO в Соединенных Штатах Америки. В 2016 году участникам проекта присуждена престижная премия Грубера по космологии, а также Премия по фундаментальной физике. Член научно-координационного совета Федерального агентства научных организаций и совета фонда фундаментального исследований. Член редакционной коллегии журналов «Успехи физических наук» и «Известия ВУЗов - Радиофизика».
В июле 2017 года Сергеев зарегистрирован кандидатом на пост президента РАН. Выдвинут бюро Отделения физических наук, бюро Отделения энергетики, машиностроения, механики и процессов управления, бюро Отделения биологических наук, президиумом Уральского отделения, а также 240 членами РАН, согласно официальному сайту академии. Кандидатура Сергеева согласована правительством Российской Федерации 31 августа 2017 года.
Общим собранием членов Российской Академии Наук 26 сентября 2017 Сергеев Александр Михайлович избран президентом Российской академии наук.
Указом Президента Российской Федерации Владимира Путина от 27 сентября 2017 года академик Сергеев утвержден двадцать вторым президентом федерального государственного бюджетного учреждения «Российская академия наук» сроком на пять лет.
Под руководством Сергеева, в ИПФ РАН создан самый мощный в России петаваттный лазерный комплекс, разработаны новые способы применения фемтосекундного излучения для обработки материалов и медицины. Является ученым в области лазерной физики, фемтосекундной оптики: оптика сверхкоротких лазерных импульсов, теории нелинейных волновых явлений; исследует взаимодействие света с биологической тканью.
Владимир Путин 9 января 2019 года, провел рабочую встречу с президентом Российской академии наук Александром Сергеевым. Обсуждались актуальные вопросы развития науки, перспективные направления деятельности. РАН поручено взять на себя методическое руководство над всеми научными организациями, проводящими исследования в национальных проектах.
На торжественном заседании совета ученых МГУ, посвященном 264-летней годовщине со дня основания университета 25 января 2019 года Президент Российской академии наук Александр Сергеев избран почетным доктором Московского государственного университета
Александр Сергеев 14 марта 2019 года единогласным решением принят в состав Попечительского совета московского Политехнического музея.
Президент Российской Федерации Владимир Путин 12 ноября 2019 года провел встречу с главой Российской академии наук Александром Сергеевым. В ходе встречи профессор информировал о подготовке к выборам в академию. Он отметил, что были расширены специальности, это позволяет претендовать на места в Академии большему числу ученых. Проведением оценки профессиональных качеств соискателей занимались экспертные и две этические комиссии. Кроме того, для обеспечения прозрачности выборов в этом году на интернет-портале были опубликованы подробные данные обо всех соискателях.
19 июля 2022 года участвовал в очередных выборах на место президента РАН. Был выдвинут бюро отделений физических наук, биологических наук, историко-филологических наук, глобальных проблем и международных отношений и 402 членами РАН. Однако 19 сентября 2022 года на начавшем работу общем собрании членов РАН сообщил о том, что он не будет принимать участие в выборах. Свое решение он назвал вынужденным, так как предвыборная кампания проходит в «беспрецедентных условиях» и многие члены РАН «подвергаются психологическому и даже внешнему административному давлению». В итоге, 22 сентября 2022 года в ходе выборов руководства Российской академии наук он был избран членом президиума РАН (на пять лет), а новым президентом стал Геннадий Красников
В октябре 2022 года Александр Сергеев был назначен научным руководителем Национального центра физики и математики (НЦФМ), который создается в гор. Сарове (Нижегородская обл.) по поручению президента России Владимира Путина.