В 1995 году получил должность в министерстве юстиции Российской Федерации, в 1996 году перешёл на работу в Администрацию Президента Российской Федерации.
С 2002 года работал Минэкономразвития России, сначала в должности должность начальника управления государственной службы, с 2004 года — директора департамента государственного регулирования в экономике, с 2009 года — директором департамента развития малого и среднего предпринимательства.
В феврале 2009 года Андрей Шаров был включен в первую сотню резерва управленческих кадров, находящихся под патронажем президента Российской Федерации.
7 декабря 2010 года назначен директором департамента государственного управления, регионального развития и местного самоуправления правительства Российской Федерации.
В мае 2012 года был стал председателем правительства Московской области.
В феврале 2014 года получил должность вице-президента по малому бизнесу ОАО «Сбербанк России», с 2017 года — руководитель Дирекции GR ПАО «Сбербанк России».
В 2016 году вошёл в совет директоров АО «Корпорация МСП».
В 1994 г. Красноярский государственный университет; В 1997 г. Российскую академию государственной службы при Президенте Российской Федерации Ученая степень: кандидат юридических наук