Лебедев Сергей Алексеевич родился в Нижнем Новгороде в семье учителя и литератора Алексея Ивановича Лебедева и учительницы из дворян Анастасии Петровны (в девичестве Мавриной). В 1920 году семья переехала в Москву.
В апреле 1928 года закончил Московское высшее техническое училище им. Баумана по специальности инженер-электрик. Дипломная работа была посвящена проблемам устойчивости энергосистем, создававшихся по плану ГОЭРЛО. Затем работал во Всесоюзном электротехническом институте. После выделения в 1930 году электротехнического факультета МВТУ в самостоятельный Московский энергетический институт стал преподавателем МЭИ. С 1936 года — профессор.
12 февраля 1945 года избирается действительным членом АН УССР, а в мае 1946 года назначается директором Института энергетики АН УССР в Киеве. В 1947 году после разделения этого института становится директором Института электротехники АН УССР. Член ВКП(б) с 1946 года.
В 1947 году в Институте электротехники организуется лаборатория моделирования и вычислительной техники. Здесь в 1948-1950 годах под его руководством была разработана первая в СССР и континентальнйо Европе Малая электронно-счётная машина (МЭСМ).
В 1950 году приглашён в Институт точной механики и вычислительнйо техники (ИТМиВТ) АН СССР в Москве, где руководил созданием БЭСМ-1. После сдачи БЭСМ-1, c 1952 года являлся директором ИТМиВТ. Институт впоследствии получил его имя.
Под его руководством были созданы 15 типов ЭВМ, начиная с ламповых (БЭСМ-1, БЭСМ-2, М-20) и заканчивая современными суперкомпьютерами на интегральных схемах.
Академик АН СССР по отделению физико-математических наук (счётные устройства) с 1953 года.
В начале 1970-х годов Сергей Алексеевич Лебедев по состоянию здоровья уже не мог руководить ИТМиВТ, а в 1973 году тяжёлая болезнь вынудила оставить его пост директора. Но он продолжал работать дома. Суперкомпьюте Эльбрус — это последняя машина, принципиальные положения которой были разработаны академиком Лебедевым.
Герой Социалистического Труда ( 1 июня 1956).
Лауреат Сталинской премии третьей степени (1950) — за разработку и внедрение устройства компаундирования генераторов электростанций для повышения устойчивости энергосистем и улучшения работы электроустановок.
Лауреат Ленинской премии (1966) — за создание системы "А" (ПРО).
Лауреат Государственнйо премии (1969) — за разработку и внедрение в народное хозяйство высокопроизводительной универсальной ЭВМ БЭСМ-6.
Награждён четыремя орденами Ленина (1954; 1956; 1962; 1972), орденом Октябрьской революции (1971), орденом Трудового Красного Знамени (1947).
Умер 3 июля 1974 года. Похоронен в Москве на Новодевичьем кладбище.