加、减号“＋、－”是15世纪德国数学家魏德曼首创的。他在横线上加一竖表示增加、合并的意思；在加号上去掉一竖表示减少、拿去的意思。
乘号“x”是17世纪英国数学家欧德菜最先使用的。因为乘法与加法有一定的联系，所以他把加号斜着写表示相乘。后来，德国数学家菜布尼兹认为“x”易与字母“X”混淆，主张用“．”，至今“×”与“．”并用。
除号“÷”是17世纪瑞士数学家雷恩首先使用的。他用一道横线把两个圆点分开，表示分解的意思。后来菜布尼兹主张用“：”做除号，与当时流行的比号一致。现在有些国家的除号和比号都用“：”表示。