山西洪洞大槐树移民其实是明朝初年大移民的一个缩影，其实移民的来源包括了山西全省。
元朝建立时经历了残酷的战争，很多地方因为战乱人口损失很大。而在元朝末年，农民起义风起云涌，战事频繁，一些交战激烈的地区人口再次大幅度减少。这其中又以山东、河北、河南、四川等地损失为多。而山西等地区因为受战争影响小，人口反而有所增长。
明朝建立以后，朱元璋意识到此时人口分布极不均匀，一些省份因为缺乏劳动力农田大量抛荒，而山西、江南则人满为患，穷者无田。所以为了尽快让战乱地区恢复生产，减少人口多的省份土地矛盾，他决定从山西等省大规模迁移人口去充实其他地区。
从洪武三年开始，在朱元璋的命令下，一场规模极其宏大的移民计划开始了，这次移民前后历时50年，到永乐十五年才结束。按照《简明中国移民史》记载，一共有18次大规模的移民，范围广达全国18个省，共有1340万移民被移居到其他省，如此大规模的移民，在整个世界史上也是非常罕见的。
1340万移民，自然不可能全部来自洪洞县一个地方，之所以会有山西洪洞大槐树移民的说法，主要是因为当时移民是到一个地区集中以后，再统一出发，而洪洞县广济寺，是当时一个比较大的集结点。
古时的人特别是穷苦农民很少外出，一般都是在村子附近活动，很多连县城也不去，对于家乡的认知，可能就是附近几个村子。在移民以后往往难以说清家乡到底在哪，只有洪洞县广济寺旁的大槐树还算比较明显的特征，于是就成为了家乡的代名词，所以都称之为山西洪洞大槐树移民。