Иван Мельников родился 7 августа 1950 года в городе Богородицк, Тульская область. Мальчик вырос в многодетной семье почтовых служащих. Окончив среднюю школу в 1967 году уехал учиться в Москву, получив диплом механико-математического факультета Московского Государственного Университета имени Михаила Ломоносова в 1972 году. Далее, устроился преподавателем специальной школы-интерната при МГУ.
С 1974 года являлся аспирантом, заместителем секретаря комитета комсомола, старшим инженером лаборатории, ассистентом, старшим преподавателем, доцентом кафедры, секретарем партийного комитета механико-математического факультета. С 1987 года заведывал кабинетом методики преподавания элементарной математики при кафедре математического анализа.
Активная общественно-политическая и государственная деятельность Ивана Ивановича берет свое начало в Московском Государственном Университете. Став Председателем профсоюзной организации, удалось существенно улучшить жилищные условия более ста сотрудников, создал семейное общежитие для более четырехсот студенческих семей. В 1988 году Мельников избран Секретарем Партийного комитета МГУ имени Ломоносова.
В самые трудные годы принимал активное участие в становлении Коммунистической Партии. С 1995 года являлся секретарем Центрального Комитета КПРФ, а через два года занял пост заместителя Председателя ЦК КПРФ. Позднее, Иван Иванович назначен Первым заместителем Председателя ЦК КПРФ. Выступал руководителем Центрального Штаба КПРФ по выборам.
В 1995, 1999, 2003, 2007 и 2011 годах избирался депутатом Государственной Думы Федерального Собрания Российской Федерации. За этот период занимал должность Председателя Комитета Государственной Думы по образованию и науке, который принял ряд базовых законов по защите и поддержке образования и науки. В их числе закон о запрете приватизации образовательных учреждений. Среди итогов работы за этот период: сохранение бесплатного образования, пенсия за выслугу лет для учителей, налоговые льготы для образовательных учреждений, отсрочка от армии для студентов.
Впоследствии, Иван Мельников стал одним из авторов и идеологов внесенного в Государственную Думу в 2012 году альтернативного законопроекта КПРФ «О народном образовании в Российской Федерации». Депутат выступал против коммерциализации системы образования, обязательного введения Единого государственного экзамена, сокращения числа вузов, закрытия малокомплектных сельских школ. Боролся за повышение социального статуса работников образования.
После избрания Мельникова Первым заместителем Председателя Государственной Думы организовал взаимодействие Государственной Думы с Российской Академией наук, координировал работу комитетов по промышленности и аграрным вопросам. Также расширял сотрудничество Государственной Думы с Парламентским Собранием Союза Беларуси и России, а также законодательными органами таких стран, как Социалистическая Республика Вьетнам, Китайская народная Республика, Республика Куба, КНДР, Сербия.
Мельников является единственным из российских представителей, кто избирался председателем одной из Комиссий Парламентской Ассамблеи Совета Европы по науке и технологиям. Являлся заместителем руководителя делегации Государственной Думы РФ в Парламентской ассамблее Совета Европы.
Иван Иванович выступает известным в России и за рубежом ученым и педагогом. Его книги по математике для учителей и старшеклассников получили широкое признание. Кандидат физико-математических наук, доктор педагогических наук, профессор. Награжден орденом «Знак почета» и знаком «Отличник народного образования». Имеет почетное звание «Заслуженный работник Высшей школы Российской Федерации».
На выборах 18 сентября 2016 года Мельников Иван Иванович избран Депутатом Государственной Думы VII созыва в составе федерального списка кандидатов, выдвинутого политической партией «Коммунистическая партия Российской Федерации». Первый заместитель Председателя Государственной Думы. Член фракции Политической партии «Коммунистическая партия Российской Федерации». Дата начала полномочий: 18 сентября 2016 года.