真實的梁山起義，規模遠遠沒有那麼大，在宋朝農民起義中根本就排不上號，他們只有三十六人，大都是梁山、鄆城附近的窮苦農民，由於黃河氾濫，淹毀了莊園，官府無視百姓的死活，狂徵暴斂，使得民不聊生，以宋江為首的三十六人逼上梁山，與官府為敵，最後被當時的海州知州張叔夜擊敗後給迫降了。

《資治通鑑》記載，早在後周顯德六年（公元959年）“復汴水，浚五丈渠，東過曹、濟、梁山泊，以通青、鄆之漕”。說明那個時候的梁山泊，只是比正常河道大一點的河流湖泊，並不是《水滸傳》裡描寫的那樣有八百里那麼大。

後來北宋的天禧、熙寧年間，黃河先後有三次大絕口，滾滾黃河水，攜帶著黃沙，衝淤奔流，在今天河南中東部，山東西南區域掃蕩。在當時的山東東平府，梁山附近，就形成了一片積水的湖泊。因為靠近梁山，所以命名為梁山泊，這片水域方圓八百里，已經成一個大湖了。

這個梁山泊中間有一些高地路出水面，形成小島，兼之淺水處遍生蘆葦，港汊交錯。一些失去土地，無處謀生的農民也聚集於此，靠著打魚維持生計。但是宋廷對這些農民徵收重稅，規定庶民凡入湖捕魚、採藕、割蒲。都要依船隻大小課以重稅，逼的這些農民成了盜賊。自此之後，水泊梁山開始不得安寧。

於是，以宋江為首的36名土匪，開始從梁山泊起家。北宋朝廷就命令當地的京東東路、京東西路抓捕，宋江36個部下都是戰鬥力很強的悍匪，一舉將官兵擊潰。然而，梁山泊難以支援敵人長期進攻。於是，宋江轉戰在華北幾省，作為流寇遊動作戰，攻陷十餘郡城池，懲治貪官，殺富濟貧，聲勢日盛，部隊擴大到數千人。

宋江和北宋官兵周旋了1年時間，可惜畢竟是沒有根據地的流寇，只能勝利不能失敗。宋江攻打臨沂城失敗，隨後突入江蘇連雲港境內。連雲港有個北宋悍將，海州知州張叔夜。張叔夜略施小計，把宋江的船隻給燒燬了使得其軍心大亂，最終宋江被輕易擊敗，不得不投降。

《水滸傳》只是小說，很多部分都是虛構的。明朝郎瑛撰寫的《七修類稿》中給出了宋江三十六人的名單，分別是：宋江、吳用、晁蓋、關勝、盧俊義、史進、阮小二、柴進、阮小五、阮小七、張青、劉唐、孫立、燕青、張橫、張順、李俊、呼延綽、花榮、李逵、秦明、戴宗、雷橫、楊志、楊雄、索超、董平、解珍、解寶、朱仝、石秀、穆橫、徐寧、花和尚、武松、李英。

這些“盜賊”，就是四大名著之一的《水滸傳》中，梁山好漢的原型了。鄆城一帶有民謠為證“去時三十六，來時十八雙，若是少一個，誓死不還鄉”。