自從阿基米德提出杠桿原理后，滑輪也相續產生，給人民的生活帶來了極大的方便，這種簡單機械可以說是起重機的鼻祖。
        古羅馬建筑師維特魯維斯曾描述了一種起重機械。這種機械有一根桅桿，桿頂裝有由兩個定滑輪和一個動滑輪組成的滑輪組，由牽索固定桅桿的位置，用絞盤拉動通過滑輪的纜索，以吊起重物。有些起重機械可用兩根桅桿，構成人字形，把吊起物橫向移動，但幅度很小，因此操作也十分吃力。可以說這是起重機的進一步演變。古埃及和古羅馬人按照這樣的原理發展了很多種起重機的雛形。其中應用比較廣泛的當屬踏輪起重機。踏輪起重機是用踏輪替代絞盤，利用人在巨大的輪子中踩踏以轉動踏輪，而帶動整個的機械。
        據稱，絞盤拉動的起重機可以吊起3000公斤的重物，而踏輪式的起重機將重量翻倍，可吊起6000公斤重物。古埃及和古羅馬人利用這些原始的起重機建起了龐大的城垣。
        中世紀，踏輪起重機被大規模引入西歐并被用于港口的貨物搬運，這一時期的起重機，主要構件都是木質結構。
        到了15世紀，意大利發明了轉臂式起重機，解決了原始起重機比較費力的問題。這種起重機有根傾斜的懸臂，臂頂裝有滑輪組，既可升降又可旋轉。
        18世紀中后期，英國人瓦特改進和發明蒸汽機之后，為起重機械提供了動力條件，將人力從這龐然大物中解放出來。
        1805年，格蘭工程師倫尼為倫敦船塢建造了第一批蒸汽起重機。1846年，英國的阿姆斯特朗把新堡船塢的一臺蒸汽起重機改為水力起重機。20世紀初期，歐洲開始使用塔式起重機。到1933年，有些起重機已裝上了活動式起重臂。
        到20世紀初，歐洲人發明了汽車起重機，采用載重卡車底盤，搭載桁架臂或箱型液壓伸縮臂，能在普通道路上行駛和作業；具有結構緊湊、快速轉移、受場地限制較小、價格低廉等特點。而全路面起重機（all terrain crane）于上世紀60年代發源于歐洲，它采用專門設計的多軸全輪驅動底盤，油氣懸掛、液壓減震，可實現全輪轉向、全橋驅動；搭載桁架臂或箱型液壓伸縮臂。
        如今我們生活的這個鋼筋水泥的世界，起重機不斷發揮著其重要力量，不斷推動現代世界的繁榮。