叶桔泉于1896年8月28日生于浙江省吴兴县双林镇鹢泊乡一个贫苦农民家庭。父母勤劳俭朴，以种地为主，兼养春蚕。叶桔泉从小就和兄妹一起随祖父、父亲下地耕耘，深感农活之艰辛。祖父十分疼爱他。7岁时，村里私塾先生张天源见他聪明伶俐，求知欲强，便主动提出免费让叶桔泉读书。童年时代的叶桔泉十分珍惜这个来之不易的机会。他勤奋苦读，放学回家，还得忙着车水、放羊、割草、干农活；夜深人静之时，他还挑灯夜读。没有钱买纸墨，常用毛笔蘸清水在方砖上练字。历经10年寒窗，他终于以优异的成绩修完全部课程，由张天源保荐给县名医张克明学习中医，他勤奋好学，深得三代祖传名医张克明的赞赏。经4年发奋学习和老师的悉心教导，1917年秋，回到故乡独立开业。 青年时代的叶桔泉不满足于在老师那里学到的知识。在1917—1932年的15年中，他在开业的同时，还参加了上海恽铁樵中医函授（1918—1920年），并潜心研读了大量的医药著作和文献资料，其中包括相当数量的日本汉方医药中译本，如《化学实验新本草》等。为了能看懂原著，他还自学并掌握了日本语。大量的阅读，开阔了眼界，在此基础上，他揣摩得失，以求创新，设计了不少独特的处方，治愈了许多疑难杂症，以精湛的医道，闻名乡里。
在医疗实践中，他体验到，中医药治病确有独到之处，可其中道理何在？他积极主张开展中医药的科学研究，并率先在上海《大众医学》副刊上陆续发表了研究成果《合理的民间单方一百例》 ，在同行和广大读者中引起反响，受到欢迎。后来由大众医学社出版单行本。与此同时，他还提出了“整理中国医药必须开设医院，进行科学实验”的主张。积极倡导临床实践。30年代就正式发表了《整理中国医药须设医院实践说》 （1935年《明日医药》第二卷第二期）等文章，受到国内外医药界的重视和称赞。日本著名汉方医学家大冢敬节撰文称道：“叶桔泉氏之《整理中国医药须设医院实践说》一文，虽为短文，余对之表示无条件赞意，余切望叶氏之言，从早实现，也希望中国能建设如此医院，以使汉方医学之研究得以加深。”同年，在章太炎先生的热情支持下，叶桔泉在苏州参与创办了国医研究院，并任药物学和方剂学教授。
叶桔泉对历代中医药界的门户之见一直持批评态度。早在30年代初，他就极力主张中医各家之间宜相互交流，取长补短，以促进中医药学的发展。1933年，他创办“单方实验研究社”，编辑经验单方，按期出版，征集临床实验的疗效，互相交流。不仅如此，他还积极主张开展国际间的学术交流，以促进中医药的推陈出新。1934年，他的《近世内科国药处方集》第一集出版传到日本后，许多著名汉方医药学家纷纷来信并寄书要求交换作品。大冢敬节为此在《东亚医学》上撰文，题为《读叶桔泉氏之近世内科国药处方集》的书评，详细地介绍了该书的内容。结论中说：“此为划时代的佳作”。此著作以后共出六集，均于出版后很快流传到日本等国。与此同时，他也密切注视着日本等国的汉方医药研究动向和方法，并及时地将其引入中国。早在1939年，他就翻译出版了《动植物民间药》 ，《腹诊考》和《方证论》等日本医药名著。
叶桔泉在本世纪初期的这些思想、主张和实践是难能可贵的，在当时是新颖和开创性的，对于继承和发展祖国的传统医药学，推动中医药事业的发展产生了积极的影响。这是他为中国医药学事业作出重要贡献的组成部分，也是他在国内外医药学界享有崇高地位和声望的关键所在。