“小学”二字最早并不专指学校。西汉时称“文字学”为“小学”，唐宋以后又称“小学”为字学。读书必先识字，掌握字形、字音、字义，学会使用。周朝儿童入学，首先学六甲六书（六甲指儿童练字用的笔画较简单的六组以甲起头的干支。六书即指事、象形、形声、会意、转注、假借），所以从前把“文字学”称“小学”，“小学”之名即由此而得。
一般古代小学最多的教学内容还是识字、作文。当时的识字教材普遍都是《三字经》《百家姓》《千字文》《千家诗》等，简称“三百千千”，这些都是识字的基本教材。识字了之后一般开始教写字，然后开始学习一些经、史、历、算的知识，还包括一些本朝的律令以及一些冠、婚、丧、祭等礼仪。