След разделянето на Римската империя в края на IV век Филипопол остава в Източната Римска империя, в границите на която е през по-голямата част от следващото хилядолетие. В средата на VI век, при император Юстиниан I, са възстановени и надградени крепостните стени около Трихълмието, а в околностите на града са построени десетки спомагателни укрепления. През следващите десетилетия Тракия е многократно нападана от българи, авари и славяни, а през 584 година самият Филипопол е подложен на неуспешна обсада от аварите.[41]
В началото на VII век около града е изградена втора крепостна стена, която обхваща кварталите на изток и на юг от Трихълмието. По това време в голяма част от Балканския полуостров масово навлизат различни славянски народи. Южно от Филипопол, чак до района на Солун, се установяват драговитите, за които по-късно е създадена Драговитийска епископия в рамките на Филипополската епархия. Няма сведения славяните да нападат града, но се предполага, че славяни се заселват в него по мирен път.[41]
Според източници от VII век Филипополската епархия обхваща епископии със седалище в Диоклецианопол (днес Хисаря) и неидентифицираните Севастопол и Диоспол, а митрополитът е наричан „екзарх на Тракия Драговица“. През VIII век подчинени на филипополския митрополит са още епископите на Берое, Маркели, Литопросопос, Декастера и Леведос.[41]
След създаването на Първата българска държава в края на VII век Филипопол се превръща във важен преден пост на византийското влияние на Балканите. По време на продължителните войни на Империята с България през VIII век в областта на Пловдив са заселени много колонисти от Армения и Сирия, сред които значителен брой привърженици на манихейството и павликянството.
По време на походите на българския владетел Крум през 811 – 813 година, когато той разрушава много тракийски градове и отвежда жителите им на север, населението на Филипопол изоставя града и бяга в по-безопасни области на юг. През 836 година градът е завладян от българския владетел Маламир, като изглежда се предава и смяната на властта става без особени кръвопролития. Филипопол остава в границите на България до 970 година, когато е превзет от киевския княз Светослав I, който разграбва града и набива на кол 20 хиляди негови жители. След изтласкването на киевските войски от Балканите през следващата година Филипопол отново е присъединен към Източната Римска империя.[43]
Филипопол се възстановява бързо след руските кланета, като в града и околностите му отново са заселени павликяни и манихейци от Армения и Сирия.[44] Той става една от основните опорни точки на император Василий II Българоубиец в продължителните му войни, довели до унищожаването на Първата българска държава.[44] От средата на XI век градът е под заплахата на нападенията в Тракия на печенеги и кумани, както и на продължителното павликянско Въстание на Травъл, поради което около него са изградени допълнителни укрепления.[44] Император Алексий I Комнин пребивава известно време във Филипопол, полагайки усилия за налагането на православието сред павликяните.[44] По думите на дъщеря му Анна Комнина по това време градът и околностите му са изцяло „манихейски“, а жителите му са „най-безбожни“ и „по природа независими и непокорни“.[45]
През Филипопол сравнително мирно преминават Първият (1096) и Вторият кръстоносен поход (1149), като в града се обособява Латински квартал със западноевропейски търговци и занаятчии. При Третия кръстоносен поход през 1089 година гарнизонът и много жители изоставят града и той е завзет и разграбен от войските на император Фридрих I Барбароса, които остават там в продължение на шест месеца.[46]
През следващите години Филипопол е засегнат от засилващата се политическа нестабилност в региона. През 1193 година управителят на филипополската тема Константин Ангел Дука се обявява за император, но е заловен и ослепен. През 1196 година за управител на областта е назначен българският болярин Иванко, но през 1198 – 1200 година той управлява самостоятелно в съюз с България. През 1204 година Четвъртият кръстоносен поход превзема Константинопол и поставя началото на Латинската империя, а Филипопол става столица на васално на императора херцогство. През 1205 година кръстоносците са принудени да напуснат града, опожарявайки част от него, а малко по-късно той е превзет с нови разрушения от българския цар Калоян. Градът остава под български контрол до Филипополската битка през 1208 година, когато херцозите успяват отново да наложат властта си.[47][48]
Филипопол вероятно е окончателно загубен от херцозите след битката при Клокотница през 1230 година, макар че херцогството продължава да съществува формално поне до края на 40-те години. През следващите 140 години градът осем пъти преминава по мирен или военен път от български под византийски контрол и обратно, като е в границите на България през 1230 – 1246, 1254 – 1256, 1257 – 1277, 1322 – 1332 и 1344 – 1371 година.