南华的前身“华人足球队”于1904年成立，借用上环水坑口育才书社为会址，以大坑学界足球场练习，因路途遥远，于1905年改借湾仔书院为会址。1910年更名“南华足球会”，1916年成立“南华游乐会”，正式加入香港足球总会，1917-18年首次加入公开乙组联赛，翌年再派队加入甲组联赛参赛，甲乙两组分头与其他洋人球队比赛。1920年正名为“南华体育会”。
南华过去造就了不少香港伟大足球员的诞生，因此又称为“少林寺”。而南华拥有自己的训练营地，更是香港球会中是独一无二的。南华过去亦一直是香港最受欢迎的球会之一，夺得职业球队中最多的28次甲组联赛、20次银牌（只计战后）、8次总督杯、8次足总杯和2次联赛杯的冠军。曾两次（87/88年及90/91年）囊括联赛、银牌、总督杯及足总杯4大锦标(四冠王)。
但到八十年代初期，由黄兴桂任领队的南华会处于低潮期，两个球季要陷入降班危机。在1981/82年度赛季中，其中一场对其生死尤关之赛事，以 0:0 赛和 加山，赛后并引发迷骚乱，几经艰苦到最后一战，以4:1击败 海蜂 ，于联赛榜仅以一分之微压过 加山 护级成功，但翌年南华再度陷于护级旋涡，不幸赛季结束后位联赛榜榜末，依例须陪同另一队 荃湾 降班，及后得足总挽留，才可继续留在甲组。
在1993年的亚洲杯赛冠军杯，南华更成为首支跻身决赛的香港球队。南华在东亚区首圈先以总比数3：0挫中国的大连队，次圈再以总比数6：1击败印度的东宾高，成功获得东亚区决赛席位。由于日本的横滨水手退出，南华得以历史性地晋身总决赛，可惜合计两回合终以2:6不敌沙特阿拉伯的艾卡迪沙。
南华过去面对外队都屡有佳作，其中最为人津津乐道的相信是击败巴西的圣保罗与南斯拉夫国家队两大劲旅，以及晋身亚洲杯赛冠军杯决赛。
1994年南华凭东方借将谭拔士的帽子戏法及李健和的入球，在表演赛中以4:2击败了当时拥有李安纳度、卡富、祖连奴等巴西国脚助阵的双重洲际杯冠军圣保罗。2000年另一场外队赛，正值备战欧洲国家杯决赛周、当时世界排名第11位的南斯拉夫亦以2：4不敌南华。
2001年11月29日，南华于亚洲杯赛冠军杯第二圈首回合主场凭斯洛伐克前锋甄马田大演“帽子戏法”下，以3:2力挫日本职业联赛球队清水心跳，获亚洲足协选为2001年11月份最佳球队，而这更是香港球队首度赢得这荣衔。
2005/06球季总监为梁守志、领队是李润华，教练是陈国雄、黄文伟及顾锦辉，而球队在此季最后一战以1比1赛和公民，14战得13分，来季(2006/07球季)将降级乙组作赛。但后来足总增加甲组球队数目，并向南华提出挽留。南华内部亦同意了足总的建议，承诺筹组一队具实力的球队留在甲组作赛。
有现役球员批评，球队表现欠佳，与部份来自中国大陆的国援球员的得过且过的心态有关，使球队难与其他球队的外籍球员比拼。2006年11月24日南华足主罗杰承决定辞退葡萄牙籍教练阿曼龙，是由于球队表现欠佳、11月17日联赛作客港会时，以2:3爆冷不敌对手，被港会打破50多年来在联赛对南华未曾胜出的纪录。教练一职由巴西籍前南华教练米路代替。
米路上任后，球队表现显著有改善，打入了高级银牌决赛，并以2：1击败香雪晨曦夺标。2007年2月23日，南华邀请日本球会横滨水手进行友谊赛，两队90分钟打和2：2，需互射十二码定胜负，最后南华以总比数6:5击败对手。
2007年4月27日，南华在最后一轮联赛作客东莞，以3：1击败联华红牛后，夺得该届甲组联赛冠军。而在同年的足总杯决赛，凭迪天奴、陈志康及郑少伟的入球，以3：1击败愉园，夺得足总杯冠军，成为该季的“三冠王”，并取得参加同年7月在香港大球场举行的柏克莱亚洲锦标赛的，与利物浦及富咸两支英格兰超级足球联赛球队较量。
2007年7月24日，南华在2007年柏克莱亚洲锦标赛初赛负利物浦1:3 ，队长李海强射出一记46码罚球为南华追成1：2，赛后外国通讯社更把李海强的入球和朗拿甸奴于2002年世界杯对阵英格兰时的入球相提并论。7月27日，南华在2007年柏克莱亚洲锦标赛季军战以1:4不敌富咸，在这项赛事以第四名结束。
2008年3月9日，以碧咸为首的美国职业足球大联盟球队洛杉矶银河访港作表演赛，南华以本队及三名借将—法图斯（公民）、基奥云尼（康宏晨曦）及科夫（宝路华流浪）组成南华邀请队迎战。完场前五分钟时纪录为1:1，但其后戏剧性地双方先后在禁区犯手球，两次皆被判12码，并双方队长射入成2:2。最后需要以12码决胜负，结果南华以5:4赢得是次友谊赛。