一个人的品行如何，群众自有公论，所以说人心就是一杆秤。
张伯行，河南仪封人，被康熙帝称为“天下第一清官”。为官清正廉洁，政绩斐然。在福建和江苏巡抚任内，总揽两省军事、吏治、刑狱、经济，可谓位高权重。其间，僚属门生等多有携礼拜谒者，自然都有私事请托，他或婉言辞谢，或严词拒贿。虽然如此，送礼者仍不乏其人。
为了杜绝接踵而来的送礼者，张伯行特地写了言简意赅的《禁止馈送檄》一文，张贴在居所院门上及巡抚衙门外。文曰：“一线一粒，我之名节；一厘一毫，民之膏脂。宽一分，民受赐不止一分；取一文，我为人不值一文。谁云交际之常，廉耻实伤。倘非不义之财，此物何来？”送礼者观之，或良心发现，或自惭形秽，皆悄然离去。于是，这篇檄文便不胫而走，广为传诵，被人们誉为为政清廉的“金绳铁矩”。
张伯行在福建巡抚任上为民做了很多好事，最主要的就是买粮抚民。在他任职期间，百姓没有因灾荒和饥饿而背井离乡。
康熙四十八年，张伯行奉旨调任江苏巡抚，福建的百姓痛哭相送，如失青天。赴任后，张伯行立即发布檄文禁止馈送，严禁下属馈送钱物，以整顿当时日益盛行的贪腐之风。平常公务也杜绝礼品，不受一分一毫。有的州县官吏为了考科成绩，以利升迁，就不顾百姓困苦，任意加重赋税，百姓不堪忍受。张伯行果断地废除了许多的苛捐杂税。
在康熙五十年，江苏乡试发生了作弊案，副主考赵晋内外勾结串通，收受贿赂，大肆舞弊，发榜时，杨州士子大哗，康熙皇帝命令张伯行、噶礼同户部尚书张鹏翮、安徽巡抚梁世勋会审此案。由于牵涉到噶礼受贿银五十万两，案子错综复杂，审理一个多月竟然没有任何结果。张伯行愤而上奏弹劾噶礼，噶礼就买通官吏，得到张伯行弹劾奏稿，然后又捏造事实反过来诬告张伯行。主审官畏惧噶礼的权势，逢迎巴结，案情无法审结。康熙无奈中只得下令：张伯行与噶礼解任，再命主审官审理。
扬州百姓听到消息之后罢市抗议，哭声震动了扬州城。第二天，扬州百姓拥到会馆，因为平时就知道张伯行清廉不贪，肯定不会接受礼物，便用水果蔬菜相送。张伯行依然婉言拒绝，百姓们哭道：“公在任，止饮江南一杯水；今将去，无却子民一点心！（不要推脱百姓的一点心意）”万不得已，张伯行才收下一把青菜。受审结束回来听候结果的路上又路过扬州，百姓们为防止青天有什么不测，竟有数万人聚集江岸护送。
到最后，案子结果下来，竟然是噶礼免议，张伯行革职治罪。康熙皇帝痛斥大臣们是非颠倒，然后亲降圣旨：张伯行留任，噶礼革职。消息传出，江苏官民额手相庆，纷纷写下红幅贴在门旁：“天子圣明，还我天下第一清官。”更有上万人进京到了畅春园，跪谢皇恩，上疏表示愿每人都减一岁，以便让圣上活到万万岁。福建百姓也奔走相告，在供奉的张伯行像前焚香祈祷。可见张伯行受人民爱戴之深。
在康熙五十四年，有人以“狂妄自矜”的莫须有的罪名弹劾张伯行，但康熙皇帝还是认为他无罪可治，留任南书房行走。后来，在康熙五十九年又任户部右侍郎。康熙六十一年，张伯行奉旨赴千叟宴，康熙皇帝称赞他是“真能以百姓为心者”。
雍正皇帝即位后，对张伯行也很敬重，军国大事都听从他的建议。雍正元年，即1723年的九月，升张伯行为礼部尚书。两年后，1725年的二月十六日，一代清官张伯行不幸病逝，享年七十五岁。皇帝赐谥号“清恪”，意思是为官清廉，恪勤职守，很精确地概括了张伯行的一生。
