但江南氣候溫和、水土豐茂，是一片極富潛力的寶地，各朝各代都不可能放棄這些地方，因此在中國歷史上，就陸陸續續地發生了好幾次遷徙，而其中最主要的方向，自然就是向南了。而第一次比較大規模的遷徙，要追溯到兩千多年前的西漢時期了。從公元前127年到公元前110年近二十年的時間裡，南下的漢超百姓超過了百萬人口，佔到了當時全國總人口的百分之三還多，這對於當時的自然地理以及社會運力條件而言，已經是一個相當大的數目了。

元末時期，社會動盪，各地百姓紛紛起義，先是1351年紅巾軍起義，1353，張士誠又於江蘇起義，而後在1356年朱元璋接替郭子興事業，在南京奪得立足之地，全國各地莫不發生戰亂。等到1368年朱元璋建立明朝時，中原地區已經因為戰事連連而變得了無人煙了，唯獨山西地區是個例外。山西地處我國第一二級階梯過渡處，區域內山脈縱橫，地勢複雜，易守難攻，加上那些年風調雨順，生產安定，因而保得了一方安寧。

朱棣在“掃北”過程中，對朱允炆治下的一眾百姓大肆殺戮，使得山西移民根本不敢進入中原。加上戰事吃緊，明朝政府一時之間也無力照顧移民事項，而這也使得移民政策途中常有中斷。但即便如此，從公元1373年到1417年近五十年的時間裡，還是整整進行了多達17次的大規模移民，而總移民人口也達到了百萬以上。而這次的遷徙就史稱為“洪洞大槐樹移民”。因為據歷史考究，在明朝政府的組織之下，大多數民眾都首先被聚集在洪洞大槐樹之下，而後在軍隊的護衛下不斷遷徙到全國各地。