1937年8月13日，淞沪会战开始，此战役是卢沟桥事变后，蒋介石为了把日军由北向南的入侵方向引导改变为由东向西，以利于长期作战，而在上海采取主动反击的战役。中日双方共有约100万军队投入战斗，战役本身持续了三个月，日军投入8个师团和2个旅团20万余人，宣布死伤4万余人；中国军队投入最精锐的中央教导总队及八十七师、八十八师及148个师和62个旅80余万人，战役结束后统计死伤共计30多万人。
淞沪会战进行到十月底，苏州河北岸基本被日军占领，沪宁铁路被截断。10月26日大场失陷，蒋介石命令全军准备撤出上海，闸北也在撤军范围内。大军撤退需要留下一支强有力的部队殿后。淞沪战区最高长官顾祝同想让88师留下防守。88师师长孙元良认为闸北已被日军轰成废墟，无法防守，而且88师在两个月的激战中进行了5次兵员补充，就这样兵力尚不足满员时的七成，这样一支疲惫之师白白牺牲没有意义。最终决定派88师524团第一营担负掩护任务，地点在四行仓库。
四行仓库是88师师部所在，有大量武器弹药。其中捷克式轻机枪27挺，马克西姆重机枪4挺，手榴弹几百箱。由于当时上海的治安不好，所以作为银行仓库使用的四行仓库修建得非常牢固，钢筋混凝土结构，一楼没有窗户，用麻袋把大门堵上后是个非常坚固的堡垒。由于当时通讯不畅，第一营的两个连已经随88师大部队后撤，已登上前往南京的火车。得到团副谢晋元（黄埔四期）的命令后，两百多将士义无反顾地下了火车，前往炼狱般的闸北。
次守卫四行仓库的国军共423人，战斗进行了4天。由于四行仓库紧邻公共租界的住宅区和煤气供应站，日军怕造成租界中的人员伤亡甚至煤气爆炸，而没有敢于使用飞机和重武器（之前日军伏击蒋介石，误伤了英国大使许阁森，已令英国极度不满）。而轻武器日军并不占优势，强攻无效下，日军登上附近的交通银行大楼，用平射炮和重机枪射击四行仓库。由于四行仓库极其坚固，平射炮产生不了很大作用。谢晋元命机枪手到楼顶进行还击，由于地形关系，四行仓库比交通银行高，机枪手将日军死死地压制住，日军无奈只好将交通银行上的据点撤了下来。
一天夜里女童子军（童子军是国际上为了锻炼孩子的勇气和意志而组建的野外开拓训练组织，类似我们的儿童团。悲哀的是中国的童子军在抗战期间直接参加了抗战，并立下了很大功劳）杨慧敏带着国旗游过了苏州河，当时日军狙击手好几发子弹打在杨慧敏周围。好在天黑视线不好，且日军忌惮英美，不敢发射大量子弹以免误伤）。10月29日四行仓库升起了中国国旗，苏州河对岸三万中国老百姓高呼中国万岁。得知四行仓库升起了国旗，日军恼羞成怒，派坦克强攻。守军没有战防炮，一度日军坦克开到仓库底下，并撞击大门，大门已经开始松动。房顶上的一名战士抱着集群手榴弹跳了下去，将坦克炸伤，并炸死炸伤二十个日军。由于守军火力猛烈，剩余进攻日军撤了下来。战至10月31日，日军前后6次大规模进攻，几十次小规模进攻全部失败，日军伤亡200多人，守军伤亡37人。当时大军已全部撤出上海，继续坚守已经没有意义。租界洋人害怕战事殃及租界，进行调停。调停结果是守军进入租界，并允许回88师继续抗战。命令下到谢晋元处，谢和大部分将士不愿意走，但是上海警备司令部司令杨虎认为死守已没意义，守军遂撤出四行仓库。
四行仓库守卫战的结束，标志着淞沪会战的结束，同时也激励着国人的抗日热情，更加坚定了国人“誓把日寇赶出中华”的决心，这场战役体现了中国军人的血性和不屈的意志，是抗日战争中少有的振奋人心的守卫战。
11月1日谢率领376名守军前往租界途中，无耻的日军竟向他们射击，当场打伤了十多人，直到英军斯马莱特将军怒斥日军背信，日军才停止射击。谁知守军刚一进入租界，日军松井石根就变卦了，以进攻租界为要挟，阻止守军出租界。这样英国人将守军包围缴械，将守军安排在胶州路软禁起来。期间守军每天进行军事训练，并且每天都升起中国国旗。由于四行守军名气太大，为了瓦解中国人的抗战意志，日军许诺守军高官厚禄，可是被谢晋元等一一拒绝。
最后穷凶极恶的日军收买了四名守军败类，暗杀了谢晋元。这四个人分别是二连下士郝鼎诚、四连下士张文清、下士尤耀亮、上等兵张国顺。之前日军许诺会全力营救四位汉奸，并许以重金厚禄。可是事后日本人为了撇清关系，暗中收买租界洋人，枪毙了四个汉奸。这也就是当汉奸的下场了。珍珠港事件爆发，日军进入租界，守军全部被俘。日军想让守军集体加入伪军，被守军拒绝。如果不是四行守军名气太大，估计早就被日军全部杀了。但是日军也没放了他们。其中50人送到新几内亚做苦工，70人送到南京挖河塘，100多人送到安徽挖煤。其中大部分被折磨致死。
最惨的是新几内亚的50人，在拉布尔战俘集中营，每天工作十多个小时，疾病横行，缺医少药。在如此恶劣的情况下依然敢于抗争，抢夺日军武器，杀死了大量看守他们的日军。死于新几内亚的四行守军由战士和当地华侨为他们立了碑，本来打算迁移回国。可是内战稍后爆发，两岸把这事给忘了。直到半个世纪后，华人来旅游，发现了墓碑并发到了网上，引起了轩然大波。
上海的四行仓库作为创业基地租给了十几家创业公司。近几年保护抗战遗址，四行仓库重新调整，并成立了四行仓库抗日事迹陈列室。
2017年12月2日，四行仓库遗址更是入选了“第二批中国20世纪建筑遗产”。它的存在时刻为我们敲响着警钟，告诫国人，铭记历史，勿忘国耻。