加减运算是人类最早
掌握的两种数学运算 ，且载于人类最早的文字记载中。古埃及的阿默斯纸草书就载有加号（Sign for Addition）及减号（ Sign for Subtraction）：向右走的两条腿“”是加号，而向左走的两条腿“”是减号。后者于莫斯科纸 草书中则表示“平方”。
古希腊的丢番图以两数并列表示相加，偶然亦以一斜线“∕”及曲线“”分别作加号和减号使用。古印度人一般不用加号，只有在公元三世纪的巴赫沙里（Bakhshali）残简中以“yu”作加及“+”作减。
中国古代因注重以工具计算，一般运算全在算筹或算盘上进行，只记录其结果，因此并没有采用什么数学符号，记录时用文字表达运算 。十五世纪阿拉伯人盖拉萨迪以两数并列作加而以一特别符号“gs”作减号。
法国人
许凯（1484）、意大利人帕乔利（1494）及
十六世纪大多数学家都以拉丁词语plus（加）与minus （减）之首字母分别作加号（或p）和减号（ 或m）。
十五世纪后二十年的德国人是最早使用现代加号“+”与减号“－”的人。德国
德累斯顿（Dresden）图书馆所保存之手稿卷c.80(1486)中便正式使用了“+”、 “－”号。而最先在印刷书内使用加号“+”与减号“－” 的是捷克人维德曼（1489）。
从十五世纪末至整个十六世纪，意大利人仍以及作加减号。到了1608年，德国人克拉维乌斯于罗马出版的《代数》一书内采用了“+”“－” 号，意大利人才开始采用这两种符号，但到卡瓦列里时代已很纯熟。