Predchodca súčasného pracoviska, Okresný archív (OA) v Komárne sa konštituoval začiatkom 50. rokov 20. storočia, ako súčasť Okresného národného výboru (ONV) v Komárne. Odborne a metodicky boli okresní archivári usmerňovaní Krajským archívom v Nitre. O prvých preberacích a usporiadacích prácach a o obsadení miesta okresného archivára, podliehajúceho vnútornému odboru Okresného národného výboru v Komárne existujú poznatky od roku 1952, keď sa stal nakrátko prvým okresným archivárom Rudolf Prášek. O rok neskôr ho vo funkcii vystriedal Jozef Eliáš, ktorý vykonával prácu archivára v ťažkých počiatkoch viac ako desať rokov.

Významný medzník v procese budovania organizačnej štruktúry archívnictva na Slovensku, bol stanovený v prvej legislatívnej norme s funkciou zákona, vo vládnom nariadení č. 29/1954 Zb. z. o archívnictve zo 7. mája 1954. Toto nariadenie riešilo základné otázky archívnictva, prispelo k jeho rozvoju a zlepšeniu materiálno-technických podmienok v archívoch. Na základe tohto vládneho nariadenia, pôsobili v našom regióne dva okresné archívy, OA v Komárne a OA v Hurbanove, zriadené ONV v Komárne a v Hurbanove. Popri nich fungoval aj mestský archív v Komárne pri mestskom národnom výbore. Tieto archívy možno pokladať za právnych predchodcov OA v Komárne, ktorý vznikol v dôsledku územnej reorganizácie v júli 1960. V tom čase došlo k zlúčeniu všetkých troch vymenovaných pracovísk a novoustanovený OA v Komárne prevzal materiál zaniknutých archívov, čím získal do svojej opatery vzácne historické fondy. Prvým riaditeľom archívu sa stal Jozef Kováč, bývalý okresný archivár v Hurbanove. V polovici 60. rokov sa medzi pracovníkov komárňanského archívu dostávajú aj prví absolventi s ukončeným vysokoškolským vzdelaním v odbore archívnictvo a pomocné vedy historické na Univerzite Komenského v Bratislave. Tento fakt sa tiež prejavil na vzniku viacerých analytických archívnych pomôcok štátnych úradov z 20. storočia, doposiaľ často využívaných bádateľmi. Spomedzi promovaných archivárov sa na miesto riaditeľky archívu dostala v roku 1972 Veronika Lakatošová, ktorá nahradiac odchádzajúceho Jozefa Kováča túto funkciu zastávala viac ako tridsať rokov. Na svojej pozícii odborne pôsobila až do roku 2008, keď ju po odchode do dôchodku nahradila Oľga Kasalová.

Zákon SNR č. 149/1975 Zb. o archívnictve z 19. decembra 1975 zavŕšil snahy o vybudovanie organizovaného slovenského archívnictva a komplexne upravoval základné otázky s ohľadom na jeho ďalší rozvoj. Zákon definoval a rozvinul pojmy archívny dokument, Jednotný archívny fond, predarchívna starostlivosť a využívanie archívnych dokumentov, pôsobnosť ministerstva vnútra a vedeckej archívnej rady a podnecoval dotvorenie sústavy archívov na Slovensku. Na základe jeho dikcie boli Štátne okresné archívy odbornými zariadeniami ONV s cieľom spracovávať a sprístupňovať archívne dokumenty z činnosti pôvodcov, ktorých pôsobnosť sa vzťahovala na územie daného okresu. Mali kontrolovať a metodicky usmerňovať predarchívnu starostlivosť a správne vykonávanie spisovej služby. Zákonom z roku 1975 sa zmenil názov archívu na Štátny okresný archív v Komárne. Jeho zriaďovateľom bol do roku 1990 ONV v Komárne, neskôr Okresný úrad v Komárne.

Prijatím zákona č. 395/2002 Z. z. nastala zmena v dovtedajšej sústave archívov v Slovenskej republike. Štátne okresné archívy boli od 1. 1. 2003 vyňaté spod právomoci okresných úradov a následne transformované na pobočky archívov s územnou regionálnou pôsobnosťou, ktorých zriaďovateľom je Ministerstvo vnútra Slovenskej republiky.

Súčasné postavenie archívu v Komárne upravuje novela č. 266/2015 Z. z., uvedeného zákona o archívoch a registratúrach. V zmysle uvedenej právnej normy je archív zaradený do siete štátnych archívov ako Štátny archív v Nitre, pracovisko Archív Komárno.

A jelenlegi Fióklevéltár jogelődje, a Komáromi Állami Járási Levéltár, a 20. század 50. éveinek elején jött létre, mint a Komáromi Járási Nemzeti Bizottság szakintézete. Szakmailag és módszertanilag a Nyitrai Állami Területi Levéltár irányítása alá tartozott. A levéltárban történő első munkálatokról és az első levéltárnoki állás betöltéséről (amely a Komáromi Járási Nemzeti Bizottság Belügyi Osztálya alá tartozott) 1952 óta vannak információink. Rudolf Prášek lett az első kinevezett járási levéltárnok, őt egy évvel később Jozef Eliáš váltotta fel. Jozef Eliáš 10 évig végezte a levéltárnoki teendőket, a kezdeti nehéz körülmények és feltételek között.

A levéltárak működésében és szervezeti felépítésük kialakításában az első fontos mérföldkövet az 1954. május 7-én elfogadott 29/1954 T. t. számú kormányrendelet jelentette. Ez a kormányrendelet a levéltárak alapvető problémáit és kérdéseit próbálta orvosolni, illetve megoldást találni rájuk. Hozzájárult a levéltárak fejlődéséhez és a technikai felszereltségük javításához. Régiónkban ennek a rendeletnek köszönhetően két járási levéltár jött létre, a Komáromi Járási Levéltár, a Komáromi Járási Nemzeti Bizottság fennhatósága alatt, és az Ógyallai Járási Levéltár, amely az Ógyallai Járási Nemzeti Bizottság irányítása alatt működött. Ezenkívül Komárom városában egy városi levéltár is tevékenykedett a Komáromi Városi Nemzeti Bizottság szervezeteként. 1960. júliusában, egy területi átszervezés után ez a három levéltár egyesült, így jött létre az újonnan megalakult Komáromi Járási Levéltár. A Komáromi Járási Levéltár megőrzése alá kerültek a megszűnt levéltárak fondjai, amelyek rendkívüli történelmi értékkel bírtak. Első igazgatója a néhai Ógyallai Járási Levéltár volt levéltárosa, Jozef Kováč lett. A 20. század 60-as éveinek felétől a levéltárba szakképzett munkaerő érkezik, ami azt jelentette, hogy a dolgozók rendelkeztek egy levéltári és történeti segédtudományok tagozatán szerzett diplomával. Ez pozitívan hatott a levéltár működésére, mivel ebben az időben több levéltári segédlet is napvilágot látott, ezeket még ma is gyakran használják a kutatóink. 1972-ben Jozef Kováč igazgatót Veronika Lakatošová váltotta fel és több mint harminc éven át állt a levéltár élén. 2008-ban nyugdíjba vonult és helyére a levéltár jelenlegi vezetője, Oľga Kasalová lépett.

Az 1975. december 19-én elfogadott 149/1975 T. t. levéltári törvény határozta meg és egységesen szabályozta a szlovák levéltárügy alapkérdéseit, tekintettel az egyes levéltárak jövőbeli fejlődésére. A törvény pontosan definiálta a levéltári szakkifejezéseket (mi a levéltári dokumentum, egységes levéltári fond, iratkezelés,..) és a Belügyminisztérium és a Tudományos Levéltári Tanács hatáskörét. Az Állami Járási Levéltár célja a járás területén létrejött dokumentumok feldolgozása és kutatásra bocsájtása volt. Ellenőrizték és módszertanilag irányították az iratkezelés folyamatát és feltételeit. A törvény szerint új megnevezést kapott - Komáromi Állami Járási Levéltár – a fenntartója azonban a Nemzeti Járási Bizottság maradt, később, 1990-től, a Komáromi Járási Hivatal lett.

A 395/2002 T. t. törvény elfogadása ismét lényeges változást hozott az addig működő levéltári hálózatban. 2003. január 1-től az állami területi levéltárakat kiemelték a járási bizottságok fennhatósága alól. Az új területi levéltárak állami levéltárokká módosultak, fenntartójuk pedig a Szlovák Köztársaság Belügyminisztériuma lett.

A Komáromi Fióklevéltár jelenlegi működését a 2015. szeptember 30-án elfogadott 266/2015 T. t. rendelet szabályozza. Ennek értelmében a Nyitrai Állami Levéltár Komáromi Fióklevéltáraként működik.