5岁能诗，“始入小学”。6岁“通声韵，工属对”10岁作《武侯论》。曾就学于黄宗羲，研究经学，对《周易》尤有心得。19岁“读书于武林吴山，从慈溪叶伯寅先生学”，20岁补诸生，出门远游，遍历云贵、华中、华北、东南各地，写出大量诗作，名噪一时。曾在纳兰明珠府中教授其幼子。23岁应童子试康熙二十八年（1689），牵涉洪升《长生殿》的国恤张乐事件，遭革职，驱逐回籍。后改名慎行，字悔余，号他山，又号查田，籍贯改作钱塘。康熙三十二年(1693)始中举人。四十一年（1702），康熙帝东巡，因大学士陈廷敬等推荐，诏随入都，入直南书房。康熙四十二年(1703)赐进士出身，特授翰林院编修，后充武英殿总裁纂述。曾3次随驾巡游塞外，岁时风土，悉记以诗。得帝器重，亲书“敬业堂”额以赐。康熙五十二年（1713）乞休归里，家居10余年，筑初白庵以居，潜心著述，人称初白先生。雍正四年（1726），因弟查嗣庭犯讪谤案，以家长失教获罪，被逮入京，世宗知其端谨，特许其父子返回田里。次年放归，不到两个月即去世。其长子克建、堂弟嗣珣都是进士，时称“一门七进士、叔侄五翰林”。