De taalgrens loopt misschien niet toevallig langs de oude heirweg Keulen-Bavay.

De taalkundige verklaring van M. Gysseling:

Onmiddellijk na de volksverhuizingen van de 4de-5de eeuw bestonden er geen scherp afgebakende taalgebieden; er bestonden Germaanse taaleilanden in romaanssprekend gebied en Romaanse taaleilanden in germaanssprekend gebied (bv. Aalst, Moezelstreek).

Tussen de 7de en de 11de eeuw is door latere assimilatie een lineaire taalgrens tot stand gekomen.

Deze lineaire taalgrens is sedert de 11de-12de eeuw nauwelijks van plaats veranderd, behalve in het huidige NW van Frankrijk.

De Belgische taalgrens ontstond vanaf het einde van de 3e eeuw tijdens de ondergang van het West-Romeinse Rijk. Ze was het resultaat van de vlucht van de Latijn sprekende Gallo-Romeinen uit de onveilige Romeinse grensgebieden naar het zuiden. De directe aanleiding voor deze ontvolking was de ondergang van het Gallische keizerrijk (274).

Het Gallische keizerrijk (ook Imperium Galliarum) was een afsplitsing van het Romeinse Rijk tijdens de crisis van de derde eeuw, die van 260 tot 274 bestond.

De lokale legereenheden waren ten onder gegaan tijdens de slag bij Châlons en belangrijker zij werden gedurende twintig jaar niet vervangen. Dit maakte de weg vrij voor de vestiging van Germaans sprekende Franken in het ontvolkte gebied ten noorden van de strategisch belangrijke heirweg van Boulogne naar Keulen. Deze heirweg was geen rechte weg maar boog iets naar het zuiden af. De weg verbond een aantal belangrijke löss-gebieden. In die tijd werd alleen in löss- gebieden graan verbouwd.

 Later (midden vierde eeuw) vestigden de Salische Franken zich op 'uitnodiging' van Julianus Apostata definitief in Toxandrië.

Na de definitieve instorting in onze streken (vijftig jaar later) van het Romeinse gezag (31 december 406) voegden de Salische Franken geleidelijk ook gebieden ten zuiden van deze heirweg aan hun gebied toe.

Verreweg het succesvolst waren in de tweede helft van de vijfde eeuw de Frankische leiders die in het huidige Doornik hun hoofdstad hadden gevestigd. Zij legden de basis voor het Merovingische Rijk dat in het begin van de zesde eeuw nagenoeg geheel Frankrijk omvatte.

In die tijd werd er zelfs tot aan de Seine Frankisch gesproken, zij het als minderheidstaal.

Tegen de 9de eeuw, toen het oud-Frans (uit het Latijn) en onder invloed van het Frankisch ontstond, verdween het Frankisch weer uit deze streken. De binnenvallende Germaanse stammen waren qua bevolkingsaantal in het grootste deel van het huidige Noord-Frankrijk veel kleiner dan de reeds aanwezige Romeinse bevolking. Belangrijker was dat de Frankische elite voor een effectief bestuur nauw samenwerkte met de Rooms-katholieke kerk en ook niet per se vijandig stond tegen de Romeinse cultuur. Hierdoor werd het voor de Frankische elite al redelijk snel een groot voordeel om tweetalig te worden.

Behalve in België is deze taalgrens ook te zien in andere vroegere grensgebieden van het Romeinse Rijk, zoals in Zwitserland en de grens tussen Frankrijk en Duitsland. Overal is de taalgrens op een zekere afstand van de vroegere Romeinse rijksgrens komen te liggen en bezuiden deze taalgrens spreekt men nog steeds van het Latijn afgeleide Romaanse talen.

Vanaf de 9de eeuw begint de taalgrens zich te fixeren. Hij zal vrijwel onveranderlijk blijven tot nu toe, met uitzondering van de verfransing van de Westhoek français (XIIIe siècle) en Brussel (XXe siècle).

Daarentegen stuit de politiek van vernederlandsing van de eerste koning Willem van Oranje op verzet van de zuidelijke provincies en is een van van de factoren die de Revolutie van 1830 doen uitbreken.

Tussen 1815 en 1955, wordt de taal een instrument ten dienste van de natiestaten:

In Nederland, hebben het Fries, het Limburgs en het Nedersaksisch de status van streektaal, en het Brabants van dialect.

Sinds 1921 was het zo dat het taalregime van een gemeente kon worden aangepast op basis van de resultaten van de tienjaarlijkse talentelling. Zodra een minderheidstaalgroep meer dan 20% (en vanaf 1932, meer dan 30%) van de bevolking uitmaakte konden taalfaciliteiten afgedwongen worden. Een gemeente kon zelfs van taalregime veranderen, indien de vroegere minderheidsgroep volgens de telling een meerderheid was geworden. De resultaten van een aantal talentellingen en vooral dan deze van 1947, de laatste die werd gehouden, gaven meermaals aanleiding tot politieke heibel. Vooral aan Vlaamse zijde werd een aantal resultaten betwist, en de volgende telling die zou doorgaan in de jaren 50 kwam er niet meer nadat een aantal Vlaamse burgemeesters weigerde ze uit te voeren.

Bij de wettelijke vastlegging van de taalgrens werd daarom meteen ook beslist dat de officiële tienjaarlijkse talentelling afgeschaft werd.

De uiteindelijke goedkeuring door de Kamer van Volksvertegenwoordigers kwam er op 31 oktober 1962. De taalgrens zou wettelijk van kracht worden op 1 september 1963.

Bij het vastleggen van de taalgrens was het de bedoeling om de provincies zo veel mogelijk eentalig te maken, om tot een administratieve vereenvoudiging te komen. Als gevolg hiervan werd een aantal grenzen hertekend en werd een aantal gemeenten overgeheveld van de ene naar de andere provincie, beide grenzen vallen nu samen. Enige uitzondering hierop was destijds de provincie Brabant die doormidden gesneden werd door de taalgrens en pas op 1 januari 1995 gesplitst werd in resp. Vlaams-Brabant en Waals-Brabant.

Door de taalgrenzen worden ook de vier officiële taalgebieden begrensd: het eentalige Nederlandse taalgebied (dat nu samenvalt met het Vlaams Gewest), het tweetalige gebied Brussel-Hoofdstad (het Brussels Hoofdstedelijk Gewest), het Franse taalgebied en het Duitse taalgebied. Deze laatste twee vormen samen het huidige Waals Gewest.

Opmerkelijk is dat alle gemeenten in het Duitse taalgebied faciliteitengemeenten zijn.

Sommige gemeenten met een belangrijke anderstalige minderheid (meer dan 30% bij de laatste talentelling) werden faciliteitengemeenten. Deze dorpen en steden bieden de lokale gemeentelijke dienstverlening en de diensten van bijvoorbeeld de NMBS ook aan in de minderheidstaal. In veel faciliteitengemeenten wordt ook onderwijs in de minderheidstaal aangeboden. Voor de dienstverlening door de intermediaire en hogere overheden (provincie en Vlaamse overheid) gelden geen taalfaciliteiten.

Overgehevelde gemeenten bij vastleggen van de taalgrens in 1962 (o.a.)

 Van Limburg naar Luik: Corswarem, Otrange, Roclenge-sur-Geer, Bassenge, Wonck, Eben-Emael, Lanaye.

Van Luik naar Limburg: Moelingen, 's-Gravenvoeren, Sint-Martens-Voeren, Sint-Pieters-Voeren, Teuven, Remersdaal.

Op sommige plaatsen gaf het wettelijk vastleggen van de taalgrens veel problemen. De zes dorpen van de Voerstreek ten zuiden van het Nederlandse Zuid-Limburg, die vroeger bij de provincie Luik hoorden, werden na de vaststelling van de taalgrens ingedeeld bij het Nederlandstalige Belgisch-Limburg.

Ondanks de voor hen voorziene taalfaciliteiten leidde dit tot groot ongenoegen van de Franstalige inwoners, die de politieke partij Retour à Liège oprichtten. Als tegenhanger bundelden de Nederlandstaligen zich in Voerbelangen. Behalve politieke partijen werd ook een militante groepering opgericht: de Franstaligen richtten de Action Fouronnaise (AF) op, de Nederlandstalige Voerenaren, verenigd in de harde Vlaamse Voerkern konden rekenen op de steun van het Vlaamse Taal Aktie Komitee (TAK). De periode 1979-1981 was zeer grimmig, met veel kleine vernielingen en knokpartijen en een paar schietincidenten. Na de fusie van de zes gemeenten in 1977 bereikte het conflict in de jaren 80 een nationale dimensie door de benoeming van de omstreden Franstalige Jobin Happart tot burgemeester. Sinds 2001 is de Nederlandstalige Huub Broers burgemeester en blijven de acties beperkt tot het wegschilderen van Franstalige of Nederlandstalige benamingen op de tweetalige bewegwijzering en plaatsnaamborden.