芦墟山歌历史悠久。据民间传说，吴越春秋时，伍子胥在分湖筑点将台时，就听到过“芦中人”唱山歌。据传，张良、韩信是芦墟山歌的老祖宗。元朝时汾湖有《采菱》山歌。方志等记载，芦墟山歌始于明，盛于清。清乾隆《吴江县志》（卷三十九声歌篇）有芦墟山歌的生动描写。
芦墟山歌是吴歌的一个重要支脉。有关吴歌的记载，著名史学家顾颉刚先生曾摘引过几个材料，其中，战国时楚国的使者陈轸对秦王说的话中，就提到了“吴吟”。吴吟就是吴地特有的一种歌谣形式。据研究者考证，吴歌起源于南朝乐府，南北朝乐府中有一类《吴声歌曲》，就是吴歌。
《世说新语》记载东吴降晋时，孙皓给晋武帝唱了一首《尔汝歌》：“昔与汝为邻，今与汝为臣。上汝一杯酒，令汝寿万春。”这是古文献里记录的早期吴歌。宋僧文莹《湘山野录》，记录五代十国吴越钱镠返乡为父老乡亲唱：“你辈见侬底欢喜，别说是一般滋味子，永在我侬心子里！”研究者认为，这是用吴语演唱并完全用吴语记录下来的第一首吴歌。明朝为吴歌的繁荣时期，明人陈宏褚引他朋友卓阿月的话说：“我明诗让唐，词让宋，曲又让元，庶几吴歌、挂枝儿、罗江怨、打枣竿、银绞丝之类，为我明一绝耳。”
芦墟山歌流传区域以芦墟为中心，边缘的莘塔、北厍、金家坝、黎里等地为主要流传地区，并辐射周边的昆山、青浦、嘉善等地。芦墟山歌的主体是短篇歌谣，可分为引歌、劳动歌、时政歌、革命斗争歌、仪式歌、情歌、生活歌、风物歌、历史传说故事歌、儿歌等10类。芦墟山歌是用芦墟方言演唱的一种民间口头文学，靠口授心传代代相传，生生不息，流传至今。
据说，清咸丰年间，芦墟“山歌王”杨其昌路过垂虹桥时，被一个皮匠拦住说要比山歌，围观的人里三层外三层，杨其昌便在天下第一长桥放歌三天三夜。
清代至民国，一直到解放前后，是芦墟山歌的全盛时期。
芦墟山歌的基本曲调是以五声音调为主，长短不一，在音乐唱腔上，主要的曲调，也就是基本的曲调有：响山歌、落秧歌、大头歌、急急歌、小山歌五种。芦墟山歌题材广泛、形式多样、内容丰富，方志上说“词多男女燕私离别之事”，说明其中的情歌占据分量较多。旧时，每逢春秋两次的“庄家圩猛将会”，每年中秋节前接连三天三夜的“迎神赛会”，芦墟山歌手们都要参加赛歌会，届时高手云集，此唱彼和，彻夜不眠。
值得一提的是长篇叙事山歌《五姑娘》，由张舫澜、马汉民、卢群根据陆阿妹演唱原始记录稿搜集整理而成，被誉为十九世纪江南农村风情画式的民间叙事诗和反封建的史诗。1981年12月，江浙沪首次吴歌学术讨论会在苏州召开，《五姑娘》引起了与会者的极大关注和兴趣，新华社发了消息，国内三十多家报刊作了报道。资料表明，《五姑娘》最早出于清咸丰年间歌王杨其昌之口，由其传给徒弟孙华棠等，又由孙华棠传于亲生女儿陆阿妹。
《五姑娘》入选《江南十大民间叙事诗》。
自清代至民国一直到解放前，以芦墟为中心的汾湖流域出现了杨其昌、毛坯阿四、沈进高、孙华棠、许庆福、金阿五、金老虎、张云龙、陆阿妹、陆洪奎等杰出的民间歌手，上世纪80年代，在抢救吴歌遗产和研究吴歌的新热潮中，又发现了蒋连生、张阿木、赵永明、高林益、蒋廷山、陈荣生、张琪荪、徐家贤、朱留金等优秀歌手。八十年代以后，又涌现了郁伟、杨文英、杨敬伟、张觉民、张莺、陈益华等第五、第六代歌手。
1998年6月，芦墟山歌社成立。同年，芦墟镇获评“江苏省民间艺术之乡——山歌之乡”。
