Сергей Гончаров родился 6 августа 1948 года на станции Тарасовка, Ростовская область. Отец мальчика, Алексей Иванович, а мать, Мария Григорьевна. Предки Гончарова по отцовской линии являлись донскими казаками и состояли на военной службе. Вскоре родители уехали в Москву, оставив маленького сына на попечение тетки. Отец стал работать на заводе имени Лихачева. Сначала мастером, потом заведовал складом в одном из цехов завода-гиганта. Когда Сергею исполнилось три года, родители забрали его в Москву.
В 1963 году молодой человек поступил в автомеханический техникум при ЗИЛе. Во время учебы работал на заводе, а по окончании техникума в 1967 году призван в армию. Как и большинство сверстников, шел с желанием служить, выполнить свой воинский долг. По окончании сержантских курсов как лучший курсант оставлен сержантом в учебном подразделении. Вскоре после окончания учебы получил распоряжение прибыть на Лубянку, где ему предложили работать в органах государственной безопасности.
В 1971 году, пройдя двухлетнюю «спецпроверку», Сергей Гончаров поступил в специальную школу № 401 Комитета Государственной Безопасности и по окончании ее в 1972 году зачислен в одно из оперативных подразделений контрразведки КГБ СССР. С 1972 года на протяжении шести лет находился на оперативной работе в органах государственной безопасности. В 1978 году ему предложили пройти тесты для зачисления в Группу «А» КГБ СССР: легендарную «Альфу». Быть зачисленными в группу могли только офицеры КГБ. Критерии отбора являлись самые жесткие. Кроме отличного физического здоровья и достижений в различных спортивных дисциплинах особое внимание уделялось морально-деловым качествам и психологической выносливости.
Данное сверхсекретное подразделение, подчинявшееся напрямую председателю КГБ, имело целью предотвращение террористических актов на воздушном транспорте и обеспечение безопасности в столице к моменту проведения Олимпиады-80. Постепенно превратилось в мощную структуру по борьбе с терроризмом во всех его проявлениях. С 1978 года в течении пятнадцати лет Гончаров служил в Группе «А». В 1980 году окончил Высшую Краснознаменную школу КГБ имени Феликса Дзержинского, получив высшее военное и юридическое образование.
Далее, Сергей Алексеевич принимал участие во многих боевых операциях. Среди них операция по освобождению заложников в Сарапуле под Ижевском 17 декабря 1981 года, во время которой двое вооруженных дезертиров, солдат срочной службы, захватили в качестве заложников 25 учеников десятого класса средней школы № 12. Террористы, требовавшие выдать им заграничные визы и отправить самолетом в США, были обезврежены в ходе штурма.
Еще одна операция по освобождению детей, в которой Сергей Гончаров участвовал уже как начальник отделения, проводилась в городе Орджоникидзе. Дважды выступал участником специальных операций по борьбе с бандитскими формированиями в Афганистане. Был ранен. В период распада Советского Союза участвовал во многих операциях на территориях союзных республик. В начале 1990-х годов вышел в отставку с должности заместителя командира Группы «А», в звании полковника.
Еще до отставки Сергей Алексеевич выступил с идеей объединения ветеранов спецназа в рамках общественной организации. В октябре 1992 года создал Ассоциацию ветеранов подразделения антитеррора «Альфа», первая организация подобного рода в стране. Гончаров занял должность ее президента. Ассоциация изначально поставила перед собой главную задачу: помогать семьям погибших товарищей.
В ассоциацию входят около ста частных охранных предприятий, более сорока коммерческих предприятий, несколько детских спортивных клубов. Также имеет свой печатный орган: газету «Спецназ России», где Сергей Алексеевич является членом ее редакционного совета.
В декабре 1993 года Гончаров избран депутатом Московской городской думы I созыва. Баллотировался от инициативного собрания жителей территориального управления «Арбат». Курировал вопросы борьбы с организованной преступностью и коррупцией. В сентябре 1995 года являлся в числе трех депутатов, проголосовавших против решения Московской городской думы продлить свои полномочия на два года.
В 1995 году вступил в Конгресс русских общин, где получил полномочия представлять интересы ассоциаций ветеранов подразделений антитеррора «А», «Вымпел» и «Витязь». В сентябре 1995 года вошел в общефедеральный избирательный список кандидатов в Государственную Думу РФ «Конгресс русских общин», который, однако, не преодолел пятипроцентный барьер. Также баллотировался в Центральном округе Москвы.
В это же время Сергей Алексеевич вошел в созданное на базе КРО общественно-политическое движение «Честь и Родина», объединившее военнослужащих, работников правоохранительных органов и спецслужб России, но в дальнейшем в деятельности ОПД «Честь и Родина» участия не принимал, так как отрицательно отнесся к политическому союзу Александра Лебедя с Борисом Ельциным в 1996 году.
В марте 1997 года Гончаров Сергей избран в исполнительный комитет Конгресса русских общин. В мае того же года стал президентом Российского союза предприятий безопасности: крупнейшего корпоративного объединения охранного бизнеса страны. С ноября 1997 года входит в Консультативный совет ФСБ Российской Федерации. В 1997 году Сергей Алексеевич избрался депутатом Московской городской думы II созыва, в 2001 году III созыва. Вновь избран депутатом Думы IV созыва 4 декабря 2005 года. Является членом фракции «Единая Россия». Занимал пост заместителя председателя комиссии Думы по безопасности.
Параллельно, Гончаров являлся членом Московского координационного совета при правительстве Москвы по делам ветеранов и участников боевых операций, членом Совета Клуба ветеранов госбезопасности, членом попечительского совета Народного Пушкинского фонда. Действительный член Российской академии проблем безопасности, обороны и правопорядка. Автор книги «Россия в эру террора».
По предложению Президента России Владимира Путина, 20 марта 2017 года Алексей Гончаров утвержден в составе Общественной палаты Российской Федерации.