中国商帮历史悠久。山西商帮、徽州商帮、陕西商帮、山东商帮、福建商帮、洞庭商帮、广东(珠三角和潮汕)商帮、江右商帮、龙游商帮、宁波商帮是为十大商帮。其中晋商、徽商、潮商势力最大影响最深远。
我们所说的徽商与徽州商人是两个概念，徽商是指徽州商人集团；徽州商人则是指明清时期徽州府所辖歙、黟、休宁、绩溪、祁门、婺源六县的徽州籍商人，两者是有区别的。徽州古称新都、新安、歙州，因此在文献记载中，也习惯称呼徽州商人为新都商人、新安商人、歙商。
作为单个的徽州商人，应该说，自从有了商业贸易，就有了商人。而徽商作为一种松散的商人帮伙，则是形成于明代中叶的弘治年间，大约相当于公元1488—1505年前后。
徽商的形成同徽州的地理环境很有大关系。徽州境内的山地及丘陵占十分之九，群峰竖立，高耸陡绝，开发艰难，即使勉力垦辟，种上农作物，收成也很难保障。山间常有暴雨，有时一天之内降雨量可达一百毫米以上。这些雨水顷刻之间泻入盆地，而盆地出口处大都是狭窄的山谷，宣泄不畅，容易造成水灾，冲坏房屋、庄稼，对人民生命财产也有威胁。
由于自然条件恶劣，生产技术低下，因此下很大的力气去耕作，所收获果实的却很少。一亩地的收入往往抵不上苏州、湖州等富庶地区的一半。唐宋以后，随着人口的增多，开始出现收不敷食的情况，百分之七十的食粮仰懒江西和江浙供给。为了获得换取食粮的货币，徽州人只能从农田以外去想办法。他们充分利用当地的自然地理特点，开展多种经营，种茶、种麻、栽桑、造纸、制墨、制砚等等，形成了徽州土特产丰富和手工业发达的经济特色。
徽州山多田少，粮食不足而盛产土特产与手工业品的经济结构，对商业的发展，起到了刺激作用。水路的便捷又为商业的发展提供了可能。输出特产和手工业品，换回粮食。这种经常性的交换，使徽州人不断地积累从商经验。正是在这种特定的环境下，徽商逐步成长起来有人说，全国同徽州地理环境相似的地方多得很，为什么其他地方的商人或者商帮达不到徽商这样的高度，取得如此辉煌的成就呢？徽商的崛起得益于思想观念的解放。中国是一个“重农轻商”的农耕国家。秦国在商鞅变法后，实行“上农除末”（末就是指工商业），颇受实惠，于是便把以农为本视为经济上的根本准则。汉承秦制，文帝和景帝也一再重申这一经济准则，以农为天下之本。经秦汉两代的提倡，这个基本经济政策—直为后世各个封建王朝所沿袭。
在中国这样一个以农业为主的大国，封建社会早期要做到使人民丰衣足食，提出以农为本，有其一定的合理性。然而随着历史的发展，长期恪守这一教条，势必阻碍商业资本的发展和社会进步。尤其中国之大，地理环境千差万别，在—定的时期和一定的地区，以农为本无法使人民丰衣足食。徽州就是这样一个特殊地区。
徽州的学者认为，从孔子到朱熹，贯穿儒家文化道统的是民本思想，他们一贯主张使人民丰衣足食。既然是以民为本，老百姓为了生计，从事任何事业都应该是合理的。徽州的学者们在坚持民本这—前提下，修正了传统的重农轻商意识，提出“商农并重”的主张。明兵部左侍郎歙县人汪道昆在《虞部陈使君榷政碑》说：农商应该一视同仁。商贸和农耕都是由神农氏开始的，同时兴起，交相为重。耕者是为了生活，贸易也是为了生活，各得其所。“商何负于农？”又说：“良贾何负闳儒？”（汪道昆《诰赠奉直大夫户部员外郎程公暨赠宜人闵氏合葬墓志铭》）汪道昆从谋生的角度出发，认为经商不比做农差，儒、商乃出一辙。批驳了轻视商人的观点。当时在徽州，这是一种很具代表性的认识。嘉靖《徽州府志》：就记载了“徽人多商贾，盖其势然也。”指出徽州人经商是在环境逼迫下，生活出路的必然选择，因此不存在职业的卑贱。正因为徽州人不轻视商业，不以经商为耻，在观念上获得了极大的思想解放，理直气壮去经商，使徽州人经商成为风气。
徽商的形成与崛起有以下几个特征：
一是徽州人经商风气开始形成，人们摒弃了以经商为耻的传统观念，纷纷走出家乡，到外地经商，活跃于各地市场。
二是徽州人结伙经营的现象已经非常普遍，大家以宗族乡里关系为纽带，结成规模庞大的群体。其中资本雄厚的商人首领对众商予以财力上的支持，并在业务上加以指导。遇到需要大数量资金的商业项目，也能够协同经营，利润共享。
三是“徽商”、“徽贾”作为一种特定概念的名词，被当时的人广泛应用。由于徽商有其共同利害，共同特征，他们又往往结伙经商，共同行动，所以人们在实际生活中已把徽商视为一个群体。
四是作为徽商骨干力量的徽州盐商已在两淮盐业中取得优势地位。