“＋”号是由拉丁文“et”（“和”的意思）演变而来的。十六世纪，意大利科学家塔塔里亚用意大利文“plu”（加的意思）的第一个字母表示加，草为“μ”最后都变成了“＋”号。
“－”号是从拉丁文“minus”（“减”的意思）演变来的，简写m，再省略掉字母，就成了“－”了。
也有人说，卖酒的商人用“－”表示酒桶里的酒卖了多少。以后，当把新酒灌入大桶的时候，就在“－”上加一竖，意思是把原线条勾销，这样就成了个“＋”号。
到了十五世纪，德国数学家魏德美正式确定：“＋”用作加号，“－”用作减号。
乘号曾经用过十几种，现在通用两种。一个是“”，最早是英国数学家奥屈特1631年提出的；一个是“”，最早是英国数学家赫锐奥特首创的。德国数学家莱布尼茨认为：“”号象拉丁字母“X”，加以反对，而赞成用“”号。他自己还提出用“п”表示相乘。可是这个符号现在应用到集合论中去了。
到了十八世纪，美国数学家欧德莱确定，把“”作为乘号。他认为“”是“＋”斜起来写，是另一种表示增加的符号。
“”最初作为减号，在欧洲大陆长期流行。直到1631年英国数学家奥屈特用“：”表示除或比，另外有人用“－”（除线）表示除。后来瑞士数学家拉哈在他所著的《代数学》里，才根据群众创造，正式将“”作为除号。
平方根号曾经用拉丁文“Radix”（根）的首尾两个字母合并起来表示，十七世纪初叶，法国数学家笛卡儿在他的《几何学》中，第一次用“√”表示根号。“√”是由拉丁字线“r”变，“——”是括线。
十六世纪法国数学家维叶特用“＝”表示两个量的差别。可是英国牛津大学数学、修辞
任意号
学教授列考尔德觉得：用两条平行而又相等的直线来表示两数相等是最合适不过的了，于是等于符号“＝”就从1540年开始使用起来。
1591年，法国数学家韦达在菱形中大量使用这个符号，才逐渐为人们接受。十七世纪德国莱布尼茨广泛使用了“＝”号，他还在几何学中用“～”表示相似，用“≌”表示全等。
大于号“＞”和小于号“＜”，是1631年英国著名代数学家赫锐奥特创用。至于“≯”、“≮”、“≠”这三个符号的出现，是很晚很晚的事了。大括号“｛｝”和中括号“［］”是代数创始人之一魏治德创造的。
任意号来源于英语中的any一词，因为小写和大写均容易造成混淆,故将其单词首字母大写后倒置，如图所示。