В. И. Илюхин родился 1 марта 1949 года в селе Сосновка Кузнецкого района Пензенской области. Окончил Саратовский юридический институт в 1971 году.
Начал трудовую деятельность грузчиком в Кузнецком леспромхозе. Одновременно с обучением в институте работал следователем в Пензенском РОВД. После окончания СЮИ имени Д. И. Курского по специальности юрист-правовед («правоведение») отслужил год срочной службы в Военно-морском флоте на плавбазе подводных лодок Тихоокеанского флота. С 1975 года работал следователем в районной прокуратуре, следователем Пензенской областной прокуратуры, заместителем начальника следственного отдела, начальником отдела, заместителем прокурора Пензенской области. В 1978 году Илюхин вступил в КПСС.
В 1984—1986 гг. занимал пост заместителя прокурора Пензенской области. В 1986—1989 годах работал в Генеральной прокуратуре СССР заместителем начальника главного следственного управления. Принимал участие в расследованиях преступлений военных преступников-нацистов. Работал в «горячих» точках страны, возглавлял спецгруппы по расследованию обстоятельств событий в Армении, Азербайджане, Фергане, Приднестровье и Грузии.
В августе 1989 года Илюхин был назначен (по рекомендации генпрокурора СССР Сухарева) начальником управления по надзору за исполнением законов о государственной безопасности, член коллегии прокуратуры и старшим помощником генерального прокурора СССР.
В 1990 году Илюхин выступил против следственной группы Гдляна — Иванова с обвинениями в использовании «незаконных методов ведения следствия» и требованием возбудить против участников группы уголовное дело (группа занималась разоблачением партийно-хозяйственной мафии в Узбекистане). «Этих двух людей толпа возвела в ранг великомучеников, а они не мученики, а великие беззаконники», — заявил Илюхин. Однако общественность встала на защиту следователей, а Илюхин после подобных заявлений, по выражению ряда СМИ, прослыл реакционером. Был консультантом детектива «Место убийцы вакантно…», снятого в 1990 году.
4 ноября 1991 года возбудил против президента СССР Михаила Горбачёва уголовное дело по статье 64 УК РСФСР (измена Родине) в связи с подписанием им постановлений Госсовета СССР от 6 сентября 1991 года о признании независимости Литвы, Латвии и Эстонии. В результате принятия данных постановлений был нарушен закон СССР от 3 апреля 1990 года «О порядке решения вопросов, связанных с выходом союзной республики из состава СССР» (в этих республиках не проводились референдумы о выходе из состава Союза ССР). Генеральный прокурор СССР Николай Трубин закрыл дело в связи с тем, что решение о признании независимости прибалтийских республик принимал не лично президент, а Госсовет. Через два дня Илюхин был уволен из Прокуратуры СССР. После ухода из прокуратуры он работал обозревателем газеты «Правда», был заведующим правовым отделом издания.