Родился в городе Екатеринослав (ныне Днепро­петровск, Украина) в семье рабочего. В 1913 г. семья переехала в Беларусь на родину отца в местечко Костюковичи (ныне город в Могилёвской области). Подростком работал грузчиком, плотником, помощ­ником мастера в кожевенной мастерской. С 1924 г. в Екатеринославе на шахте имени М. И. Калинина. С 1926 г. работал в Костюковичах лесником, предсе­дателем рабочего комитета леспромхоза. С 1928 г. в Красной Армии. В 1931 г. окончил Объединённую белорусскую военную школу имени ЦИК БССР, в 1948 г. — Военную академию Генштаба. Командовал пулемётным взводом полковой школы 99-го стрелкового полка 33-й стрелковой дивизии в Могилёве. С 1933 г. командир взвода Минского военно-пехотного училища имени М. И. Калинина. С 1938 г. командовал батальоном 25-го стрелкового полка 8-й стрелко­вой дивизии имени Дзержинского Белорусского военного округа. Участник советско-финляндской войны 1939—1940 гг. В Великую Отечественную войну с 1941 г. на Ленинградском, Северо-Западном, Ста­линградском, Южном, 3-м и 4-м Украинских фронтах: командир полка, начальник штаба дивизии, коман­дир дивизии. Участник боёв под Ленинградом, Ста­линградом, на Днепре, Днестре, в Румынии, Болга­рии, Югославии, Чехословакии, Венгрии, Австрии. С 1946 г. на ответственных постах в Советской Армии, в 1954—1959 гг. и 1961—1979 гг. командующий воздушно-десантными войсками Вооружённых Сил СССР. Маргелов инициировал создание и серийное производство на предприятиях военно-промышленного комплекса средств десантирования, тяжёлых парашютных плат­форм, парашютных систем и тар для десантирования грузов, грузовых и людских парашютов, парашютных приборов.

Награждён орденами: четырьмя Ленина, Ок­тябрьской Революции, двумя Красного Знамени, Суворова II степени, двумя Отечественной войны I степени, Красной Звезды, двумя «За службу Родине в Вооружённых Силах СССР» II и III степени, иностран­ными орденами и медалями.

Похоронен на Новодевичьем кладбище в Москве.

Именем В. Ф. Маргелова в 2013 г. названа улица в Октябрьском районе.

В 2005 г. учреждена медаль «Генерал армии Мар­гелов» за добросовестную службу в Воздушно-де­сантных войсках в течение 15 лет.

В Великую Отечественную войну с 1941 г. на Ленинградском, Северо-Западном, Ста­линградском, Южном, 3-м и 4-м Украинских фронтах: командир полка, начальник штаба дивизии, коман­дир дивизии.

С 1944 года — командир 49-й гвардейской стрелковой дивизии 28-й армии 3-го Украинского фронта. Руководил действиями дивизии при форсировании Днепра и освобождении Херсона, за что в марте 1944 года был удостоен звания Героя Советского Союза.

Участник боёв на Днестре, в Румынии, Болга­рии, Югославии, Чехословакии, Венгрии, Австрии.

Маргелов Василий Филиппович // Герои Советского Союза : краткий биографический словарь : [в 2 т.] / Министерство обороны СССР, Главное управление кадров, Институт военнной истории, Центральный архив ; [А. А. Бабаков (руководитель) и др.] ; редколлегия: И. Н. Шкадов (председатель) [и др.]. — Москва : Воениздат, 1988. — Т. 2. — С. 36.

Маргелов Василий Филиппович //  Их именами названы... Улицы Минска : энциклопедический справочник / [редколлегия: В. В. Андриевич (главный редактор) и др.]. — Минск : Беларуская Энцыклапедыя, 2014. — С. 251.

Маргелов Василий Филиппович // Республика Беларусь : энциклопедия: [в 6 т.] / редколлегия : Г. П. Пашков (главный редактор [и др.]. — Минск : Беларуская энцыклапедыя, 2007. — Т. 4. — С. 646.