世界上最原始的秤是古埃及人的发明。还在7000多年以前，古埃及人就使用一种悬挂式的双盘秤来称麦子。这种秤有两个秤盘，分别悬挂在秤梁的两端。在中国，秤的出现也很早。春秋中晚期，楚国已经制造了小型的衡器—木衡，用来称黄金货币。
杆秤在耶稣诞生前由游牧部传入了西方，被命名为罗马秤。在许多拉丁语作家的著作中都有关于这种秤的记载。罗马秤两臂不等，称物端的秤臂较短，且长度固定不变。在称量重物时，移动秤杆另一端的秤锤（这样就改变了该端秤臂的长度），直到秤杆达到水平状态时为止。使用这种秤可以称量比秤锤重得多的物体。