玉佛寺住持慧根老和尚不久即圆寂，由其嗣法弟子本照法师接任住持。本照法师曾为寺内请得大藏经一部。未几，因遭兵祸，寺屋被占用（一说被毁），两尊玉佛被弃置于公园内。本照法师曾多方呼号奔走，意欲恢复寺宇，终于未能如愿而圆寂。后由浙江天目山退院来沪的宏法上人继任住持。宏法上人得常州天宁寺住持冶开和南京香林寺住持济南等相助，于麦根路租赁一屋，暂时供奉玉佛，使香火得以延续。1917年秋，宏法上人圆寂，由冶开、济南等推举可成法师继任玉佛寺住持。可成法师认为赁屋为寺，绝非久远之计，乃与冶开、济南等商议，决定另觅新址重新建寺。最后在槟榔路（今安远路）募得清大臣盛宣怀后代地基11亩多，募资开工建造。自1918年起，前后10年，佛殿、楼庑、斋厨等等相继落成。最后终于在1928年告竣，即现今存在的玉佛寺。可成法师在建寺过程中，一椽一瓦，都精心挑选，一木一石，均亲自参加搬运，最后终于使玉佛寺成为沪上名刹。因可成法师属于禅门临济宗，故新建成的寺院被称为玉佛禅寺。

　　1932年，可成法师圆寂，由其嗣法弟子远尘法师继任住持。

　　远尘法师住持玉佛寺共10年。其间正值国难当头、日寇侵华之际。特别是上海沦为孤岛以后，远尘法师苦心孤诣支持危局。他目击时世艰难，认为必须造就青年僧才，才能光大法门。于是他力排众难，决定在本寺创办上海佛学院，礼聘镇江竹林寺震华法师前来担任院长之职，同时请他继任玉佛寺住持。

　　上海佛学院的开办，是当时上海佛教界的一件大事。当时虽岁月艰难，震华法师仍勉力维持，聘请名师，开设各种课程，并在寺内办图书馆，设弘一纪念会等，培养和提高学僧的素质。数年之中，培养出一批新的佛教人才，其中有的现今仍是海内外佛教界的知名人士。

　　1945年冬，震华法师辞去住持之职，由止方法师出任方丈。1946年春，太虚大师门人福善法师应震华法师请，来玉佛寺任监院及上海佛学院教务主任。

　　1946年，时任中国佛教会整理委员会常委的太虚大师驻锡玉佛寺，以玉佛寺作为他整理中国佛教的据点，在寺内创立觉群社，发行《觉群周报》，以宣传他改革佛教的主张。

　　1947年1月，止方法师卸住持职，由苇一法师继任住持。是年二、三月间，福善法师、震华法师、太虚法师先后于玉佛寺圆寂。加上时局危殆，形势险恶，玉佛寺仅得勉强维持。

　　1949年3月，苇一方丈急流求退，推举苇舫法师为住持。不久，即迎来了新中国的诞生。