Ларри Пейдж родился 26 марта 1973 г. в Лансинге (штат Мичиган, США), в семье преподавателей: Карла Виктора Пейджа-старшего, профессора информатики в Университете штата Мичиган, получившего научную степень доктор философии по информатике в Мичиганском университете в 1965 году, когда была создана дисциплина информатика, описывался репортёром BBC Уиллом Смейлом как «пионер в информатике и искусственном интеллекте.»; и Глории Пейдж, преподавателя программирования того же университета и колледжа Лаймана Бригса[en].
Несмотря на еврейское происхождение матери и то, что дед Ларри Пейджа позднее совершил алию в Израиль, воспитание ребёнка прошло без религиозного влияния.
В беседе Пейдж, вспоминая своё детство, отметил, что его дом «обычно представлял собой беспорядок, с разбросанными повсюду компьютерами, научными и техническими журналами, журналами Популярная Наука (англ. Popular Science)», окружение, в которое он сам был погружён. Пейдж был жадным читателем в молодости, написав в своём послании основателя Google в 2013 году: «я помню, как много времени проводил над книгами и журналами». По словам писателя Николаса Карлсона, совместное влияние атмосферы в доме Пейджа и его внимательных родителей «способствовало творчеству и изобретательности». Пейдж также играл в детстве на саксофоне и изучал музыкальную композицию. Пейдж упоминал, что его музыкальное образование вдохновило его нетерпимость и одержимость скоростью в вычислениях. «В каком-то смысле я чувствую, что занятия музыкой привели к наследию высоких скоростей Google для меня, …»(англ. "In some sense I feel like music training led to the high-speed legacy of Google for me,"). В беседе Пейдж сказал: «… в музыке вы очень осознаёте время. Время как бы наиглавнейшая вещь…»; «Если вы подумаете об этом с музыкальной точки зрения, если вы барабанщик, вы ударили как-то, это должно произойти в миллисекундах, долях секунды…».
Компьютеры впервые привлекли внимание Пейджа, когда ему было шесть лет, так он смог «поиграть с хламом, лежащим вокруг» — персональными компьютерами первого поколения, оставленными его родителями. Он стал «первым ребёнком в своей начальной школе, выполнившим задание в текстовом процессоре» (англ. "first kid in his elementary school to turn in an assignment from a word processor"). Старший брат также научил Пейджа разбирать вещи на куски, и вскоре Пейдж разобрал «все в своём доме, чтобы посмотреть, как это работает». Пейдж также сказал: «с самого раннего возраста я также понял, что хочу изобретать вещи. Поэтому я действительно заинтересовался технологиями и бизнесом. Вероятно, когда мне было 12, я знал, что собираюсь в конце концов основать компанию».
Пейдж посещал школу Монтессори в Окемос (англ. Okemos Montessori School, теперь называемую Монтессори Радмур — англ. Montessori Radmoor School) в общине Окемос[en], штат Мичиган, с 1975 по 1979 гг., и окончил Ист-Лансингскую среднюю школу[en] в 1991 году. Он посещал Интерлохенский центр искусств[en] в качестве саксофониста в течение летних периодов времени два года подряд в средней школе. Пейдж имеет степень бакалавра по компьютерной инженерии в Мичиганском университете с отличием и магистра по информатике в Стэнфордском университете.
В 2007 году Пейдж женился на Люсинде Саутворт на карибском острове Ричарда Брэнсона Некер. Саутворт — исследователь и сестра актрисы и модели Кэрри Саутворт. Пейдж и Саутворт имеют двоих детей, родившихся в 2009 и 2011 годах.