根据史书的记载和考古材料的发现，古代的算筹实际上是一根根同样长短和粗细的小棍子，一般长为13-14cm，径粗0.2-0.3cm，多用竹子制成，也有用木头、兽骨、金属等材料制成的，大约二百七十几枚为一束，放在一个布袋里，系在腰部随身携带。
需要记数和计算的时候，就把它们取出来，放在桌上、炕上或地上都能摆弄。别看这些都是一根根不起眼的小棍子，在中国数学史上它们却是立有大功的。而它们的发明，同样经历了一个漫长的历史发展过程。
在算筹计数法中，以纵横两种排列方式来表示单位数目的，其中1-5均分别以纵横方式排列相应数目的算筹来表示，6-9则以上面的算筹再加下面相应的算筹来表示。表示多位数时，个位用纵式，十位用横式，百位用纵式，千位用横式，以此类推，遇零则置空。这种计数法遵循一百进位制。据《孙子算经》记载，算筹记数法则是：凡算之法，先识其位，一纵十横，百立千僵，千十相望，万百相当。《夏阳侯算经》说：满六以上，五在上方，六不积算，五不单张。