舉重是一項很古老的運動。古希臘人曾用舉石頭來鍛煉和測驗人的體力，羅馬人在棍的兩頭以石塊來鍛煉體力和訓練士兵。中國民族形式的舉重活動，早在兩千多年前的楚漢時代就有記録（舉大刀、石擔、石鎖等）。從晉代至清代，舉重均列爲武考項目。

　　公元前4000年的古埃及繪畫記述了法老們舉沙袋或其它重物來鍛煉身體，這就是用舉重來進行鍛煉的最早記録，運動員們用這種方法來增強身體力量，增加身上的肌肉。

　　現代舉重運動始於18世紀的歐洲，英國倫敦的馬戲班常有舉重表演。19世紀初，英國成立舉重俱樂部。

　　最初槓鈴兩端是金屬球，重量不能調整，比賽以次數決勝負。後來，意大利的阿蒂拉將金屬球掏空，通過往球內添加鐵或鉛塊調整質量。1910年，伯格將金屬球改成重量不同、大小不一的金屬片。

　　1891年在倫敦皮卡迪里廣場舉行首屆世界舉重錦標賽。1896年在雅典舉行的第1屆奧運會上，舉重被列爲正式比賽項目。