Народився 3 жовтня 1946 року в місті Донецьку.
В період 1961–1965 — навчання в Ясинуватському будівельному технікумі транспортного будівництва. З лютого 1966 по червень 1968 — служба в Радянській армії, в/ч 44096 Московського військового округу.
Закінчив Донецький державний університет (1968–1973) за спеціальністю економіст, «Планування промисловості»; кандидатська дисертація «Управління фінансовими ресурсами території (на прикладі міст Донецької області)» (1996); докторська дисертація «Регулювання процесів ринкової трансформації системи доходів місцевого самоврядування» (Інститут економіки промисловості НАНУ, 2001).
Навчався у Вищій партійній школі при ЦК КПУ. Кар'єру починав у партійних органах. Має досвід керівництва будівельними організаціями.
Доктор економічних наук. Доцент. Кавалер ордена Святого Станіслава, шевальє. Голова Комітету Верховної Ради України з питань будівництва, містобудування і житлово-комунального господарства та регіональної політики. Член Постійної делегації в Парламентській асамблеї Ради Європи. Член групи з міжпарламентських зв'язків з Грецією і Литвою.
З 1993 по 2002 роки був головою Донецької міськради і мером Донецька.
З 1998 року - народний депутат України. Кілька років тому в Донецьку була видана книга - «Мер милістю божою».
Був творцем Партії регіонального дії Трудова солідарність України, яка в 2001 році перейменована в Партію регіонів.
На виборах 2006 року обраний до Верховної Ради за списком Партії регіонів (№ 13).
З 4 серпня 2004 року - Віце-прем'єр-міністр, міністр будівництва, архітектури і житлово-комунального господарства України.
Володимир Рибак каже, що цю посаду йому запропонував Віктор Янукович.
У 2006 році в «Топ-100» найвпливовіших людей України, яких визначає журнал «Кореспондент», Володимир Рибак посів 63-у позицію.
За версією журналу «Фокус», в 2006 році він зайняв 13-у позицію в рейтингу впливовості серед представників донецького регіону.
На виборах 2007 року обраний до Верховної Ради за списком Партії регіонів (№ 13).
У 2007 році в «Топ-100" найвпливовіших людей України, яких визначає журнал «Корреспондент», Володимир Рибак зайняв 47-у позицію.
У 2007 році в рейтингу журналу «Фокус» «200 найвпливовіших українців» посів 60-е місце.
З 2010 року - перший заступник голови Партії регіонів.
На парламентських виборах 2012 року обраний до Верховної Ради України за списком Партії регіонів (№ 10).
13 грудня 2012 року обраний головою Верховної Ради України.
На посаді голови Верховної Ради сприяв отриманню Обуховом статусу міста обласного значення.
Почесний громадянин Обухова.