Fueron observados por primera vez al menos hace 2500 años, con fragmentos de mineral de herro magnetizado cerca de la antigua ciudad de Manesia (hoy Manisa, en Turquía occidental ). Esos trozos eran ejemplos de lo que hoy conocemos como imanes permanentes . Se observó que dichos imanes ejercían fuerza uno sobre otro y sobre trozos de herro que no estaban magnetizados. Se descubrió que cuando una varilla de hierro estaba en contacto con un imán natural, aquella también se magnetizaba, y si la varilla flotaba en agua o se suspendía de un hilo por su parte central, tendía a alinearse con la dirección norte- sur. La aguja de una brújula ordinaria no es más que un trozo de hierro magnetizado.
La Tierra misma es un imán. Su polo norte geográfico está cerca del polo sur magnético, lo cual es la razón por la que el polo norte de la aguja de una brújula señala al norte terrestre. El eje magnético de nuestro planeta no es del todo paralelo a su eje geográfico (el eje de rotación), así que la lectura de una brújula se desvía un poco del norte geográfico. Tal desviación, que varía con la ubicación, se llama declinación magnética o variación magnética. Asimismo, el campo magnético no es horizontal en la mayoría de los puntos de la superficie terrestre; su ángulo hacia arriba o hacia abajo se denomina inclinación magnética. En los polos magnéticos, el campo magnético es vertical.