张元济出生于浙江省海盐县名门旺族，幼承家学，26岁即考中进士，甲午战争失败后，张元济开始学习英文，倡导新政与变法。在1900年戊戍变法期间，他曾蒙光绪皇帝召见，上过条陈。政变发生后，清廷处分他给他以革职永不叙用的处分。张元济赴上海在南洋公学筹备译书院，结识了阎复、蔡元培等人，后因与盛宣怀有严重分歧而离开了南洋公学，加入到商务印书馆。

商务印书馆是一八九七年由夏瑞芳等开办的，当时不过是一家小印刷厂，雇用十余名工人，招揽些小印刷品生意，翻印一些英文教科书。张元济在1910年开始投资商务印书馆，并在两年后设编译所，主持商务印书馆的编译事务。他与日本最大的教科书出版商金港堂合作，引入一部分股金和先进印刷技术，借监日本编辑中小学教科书的经验，亲自主持编辑了一套《最 新国文教科书》。这套书后来占了全国中小学国文教科书总发行量的60%。商务印书馆还陆续购置了大量的书籍，成立了一个图书馆。图书馆先起名涵芬楼，后改名为东方图书馆，向社会开放。涵芬楼收藏了大量的古藉缮本，并从日本影印回大批已失传的图书。

张元济1910年用半年时间考察了国外出版业，并以商务印书馆的名义同一些英美出版商签定合作协议。商务印书馆于1914年清退日股，成为中国人全资自办的企业。1915年，商务印书馆又创办涵授学校，张元济任校长。据英国《纽约时报》报到，截止1930年，该校已有3万两千人毕业。五四运动后，张无济等人对《东方杂志》《小说月报》进行改革。《小说月报》改革后，先后由茅盾、郑振铎、叶圣陶任主编，为新文学运动作出了重要贡献。

张元济1959年8月14日病逝，终年93岁。茅盾称赞他“是个有远见、有魄力的企业家，同时又是一个学贯中西、博古通今的人。”

张元济晚年辞去商务印书馆的职务，专心从事影印古籍之事，许多古典文化名著浸透着张元济的心血。