到了西汉，有一个名叫栾大的方士，他利用磁石的这个性质做了两个棋子般的东西，通过调整两个棋子极性的相互位置，有时两个棋子相互吸引，有时相互排斥。栾大称其为“斗棋”。他把这个新奇的玩意献给汉武帝，并当场演示。汉武帝惊奇不已，龙心大悦，竟封栾大为“五利将军”。栾大利用磁石的性质，制作了新奇的玩意蒙骗了汉武帝；指南针的始祖大约出现在战国时期。它是用天然磁石制成的。样子像一把汤勺，圆底，可以放在平滑的“地盘”上并保持平衡，且可以自由旋转。当它静止的时候，勺柄就会指向南方。古人称它为“司南”，当时的着作《韩非子》中就有：“先王立司南以端朝夕。”“端朝夕”就是正四方、定方位的意思。《鬼谷子》中记载了司南的应用，郑国人采玉时就带了司南以确保不迷失方向。
春秋时代
春秋时代，人们已经能够将硬度5度至7度的软玉和硬玉琢磨成各种形状的器具，因此也能将硬度只有5.5度至6.5度的天然磁石制成司南。东汉时的王充在他的着作《论衡》中对司南的形状和用法做了明确的记录。司南是用整块天然磁石经过琢磨制成勺型，勺柄指南极，并使整个勺的重心恰好落到勺底的正中，勺置于光滑的地盘之中，地盘外方内圆，四周刻有干支四维，合成二十四向。这样的设计是古人认真观察了许多自然界有关磁的现象，积累了大量的知识和经验，经过长期的研究才完成的。司南的出现是人们对磁体指极性认识的实际应用。但司南也有许多缺陷，天然磁体不易找到，在加工时容易因打击、受热而失磁。所以司南的磁性比较弱，而且它与地盘接触处要非常光滑，否则会因转动摩擦阻力过大，而难于旋转，无法达到预期的指南效果。而且司南有一定的体积和重量，携带很不方便，这可能是司南长期未得到广泛应用的主要原因。
司南由青铜盘和天然磁体制成的磁勺组成，青铜盘上刻有二十四向，置磁勺于盘中心圆面上，静止时，勺尾指向为南。每块磁铁两头都有不同的磁极，一头叫S极，另一头叫N极。我们居住的地球，也是一块天然的大磁体，在南北两头也有不同的磁极，靠近地球北极的是S极，靠近地球南极的是N极，也正是因为地磁极和地理两级不完全重合，才出现了地磁偏角现象。我们知道，同性磁极相斥，异性磁极相吸引，所以，不管在地球表面的什么地方，拿一根可以自由转动的磁针，它的N极总是指向北方，S极总是指向南方。
二千多年以前，也就是春秋战国时候，中国已经用铁来制造农具了。劳动人民在寻找铁矿的时候，就发现了磁铁，并且知道它能够吸铁。《梦溪笔谈》是沈括（1031―1095年）所着的有关中国古代科学技术的着作，书中谈到磁学和指南针的一些问题。他在《梦溪笔谈》的补笔谈中谈到了摩擦法磁化时产生的各种现象：“以磁石摩针锋，则锐处常指南，亦有指北者，恐石性亦不……，南北相反，理应有异，未深考耳。”这是说，用磁石去摩擦缝衣针后，针锋有时指南，也有时指北。磁石都有N和S两个极，磁化时缝衣针针锋的方位不同，则磁化后的指向也就不同。但沈括并不知道这个道理，他真实的记录了这个现象并坦白承认自己没有做深入思考。以期望后人能进一步探讨。