端坐而逝
风波暂时过去了，于成龙还是像平时一样，吃青菜喝稀粥，夜以继日地办理公务。只是，老人家的身体一天比一天差了，两眼昏花，听力衰退，心脏有了毛病，晚上还会失眠。康熙二十二年秋天，他曾经患过疟疾，可能一直就没痊愈，到二十三年仍然不时发作。有时几天吃不下饭，有时则大量呕吐。
康熙二十三年（公元1684年）农历四月十八日的早晨，深受疾病困扰的于成龙早早就醒了。他从床上爬起来，穿上衣服，准备去办公。还没有走出房门的时候，疾病就发作了。仆人们赶紧扶他坐下，然后召集僚属，说老总督不行了，还有话要吩咐。诸司官员们迅速赶到，于成龙强忍病痛，拣紧要的公事吩咐了几句。还没有来得及吩咐家事，老总督就走到了人生的最后关头，精力耗尽，油尽灯枯，坐在椅子上静静地离开了人世，终年68岁。按现在的周岁算法是67岁。
按照现代医学的说法，于成龙应该是心脏病或者脑血管之类的疾病突然发作，导致了迅速死亡。如果和平时的政务操劳以及上年的宦海风潮联系起来，则属于忧心忡忡、积劳成疾，导致了死亡。在古代，67岁的年纪，虽然不算是高寿，也可以说是正常。对朝廷和康熙皇帝来说，于成龙最后死在“执行公务”的时候，确实可称是鞠躬尽瘁，死而后已，确实是忠心可嘉的。
古代的高僧大德，去世时常采取“吉祥卧”或者“跏趺坐”两种姿势，记载中常用“端坐而逝”的字样，表示其“生死自在”的修行水平。于成龙一生严于律己，积德行善，信奉“天理良心”，算是一位综合儒释道各家的修行人。他最后坐在椅子上去世，这个细节也被当时的人们注意到，认为于成龙的修行达到了一种很高的境界。
陈廷敬在《于清端公传》中记载说：
四月十八日晨起视事，未出户，疾作。召诸司语，不及家事，端坐而逝。至夜漏四十刻，坐不欹倚，颜色如生，年六十有八。
我们解读一下这段文字。古代一天分为一百刻，每刻大致相当于现在的十五分钟。于成龙是早晨去世的，到天黑时，大概过了四十刻，也就是十小时左右。在这段时间里，他一直端坐在椅子上，身体并没有倾侧歪斜，也没有靠到椅背上。他的面容、神色，在这段时间内也保持着活着时的样子，并没有变化。
在两江总督的官署中，只有几名仆人，并没有亲属，也没有事先给于成龙准备寿衣、棺材等丧葬用品。他去世以后，官署里一片忙乱，大家商量后事，准备东西，到天黑以后才给于成龙装殓。所以，在这一整天里，于成龙的遗体就端端地坐在那里，没有人移动，他也保持了一整天的“端坐而逝”的神奇状态，仿佛高僧圆寂一般。
笔者很愿意相信，一生讲究“天理良心”的于成龙，完成了他的从政誓言，达到了他的人生目标，最后融入了他追求的至高境界。他晚年写诗回忆少年时代在安国寺读书的情态，最后两句为：“四十年来魔障尽，好教拂袖紫霞端。”对他来说，人生好比是个“苦海”，是来“消除魔障”的。如今，“魔障”已尽，自然拂袖而去，回归天宫仙界，与紫霞为伴了。
万民追悼
于成龙活着的时候，大力整顿官场风气，大力整顿民间风气，好像得罪了很多人，有很多政敌和仇家。但他去世的消息传开以后，江宁城忽然就沉浸在一片悲痛之中。老总督的德政和善举，毕竟还是深入人心的。
首先，是一批文武官员，赶到总督署中，为于成龙料理后事。以前，他们听说过于成龙清廉、清苦，过的是苦行僧的生活。现在，他们真真实实地看到了。原来对于成龙有成见有敌意的官员，这时候也忍不住泪流满面，感慨万端了。且看陈廷敬的记载：
将军、都统、寮吏来至寝室，皆见床头敝笥中唯绨袍一袭，靴带二事，堂后瓦公式米数斗，盐豉数器而已，无不恸哭失声。
原大学士熊赐履也去吊唁了，他记载说：
公殁也，予以一瓣香哭公于丧，次瞻几筵，唯青灯布缦冷落菜羹而已。问其箧笥，则故衣破靴外无他物，盖公之素履卓绝类如此。
得到官府的允许后，江宁城的父老乡亲、男女老幼纷纷来到总督署，一面吊唁、祭拜老总督，一面参观、瞻仰这位天下著名清官的灵堂和生活起居的后堂。且看丛澍的记载：
公薨之日，举国若丧考妣，男妇童叟皆入公署，见孤灯茕茕，犹然在案，周身只见布被一床而已，清俭之节固千古所未有也。
于成龙在任时，曾经平反大量冤狱。那些被于成龙解救过的老百姓，早就在自己家里设了于成龙的长生牌位，每天焚香供奉。现在，老总督去世了，他们就抱着牌位来到总督署祭拜，放声大哭一场，怀念青天于大人。据陈廷敬记载，江宁城的老百姓，还采取了“巷哭”“罢市”等哀悼方式，自发地大规模地悼念于成龙。而每天到总督署祭拜的人数，多达几万。在哭祭于成龙的人群中，还有小商小贩、色目胡人、蒙藏喇嘛等各色人等。笔者阅读古人的记载，总疑心其中有夸张溢美的成分，但于成龙去世后江宁城里的哀悼盛况，笔者相信是真实的。那些对于成龙忌惮颇深的“势家”们，这时候免不了也要虚应故事，做做表面文章，到总督衙门祭奠一下，掉几滴虚伪的眼泪。而那些深受于成龙恩惠的广大百姓，却是发自内心的哀悼、纪念。
于廷元回乡应试去了，于成龙身边没有亲属，没有操办丧事的银钱，也没有准备好的寿衣、被褥、饭含、棺木。江宁知府“小于成龙”深受老总督的厚恩，这时候便责无旁贷，挺身而出，主动承担起一切治丧事务，买来寿衣棺木，将老总督好好地装殓起来。“小于成龙”的这番义举，后来受到了大家的一致好评。而两位“于成龙”肝胆相照，同城为官，清廉爱民的名声前后辉映，也是一段历史上的佳话。
康熙二十三年（公元1684年）七月，大儿子于廷翼带着家人赶到了江宁。他看见百姓们用焚化纸钱的方式祭奠于成龙，便劝告说：
家父生平不爱钱票，请勿强加于他，往后祭祀莫用纸票。
江宁百姓听从了于廷翼的劝告，从此不再用纸钱祭祀于成龙，但对于成龙的纪念，一直持续着，持续了好多年。在江南一带，从来没有哪一位封疆大吏，能得到老百姓如此长久的纪念。
老朋友熊赐履，受孝子于廷翼的委托，认真地为于成龙撰写了墓志铭，让廷翼带回去刻石。这是于成龙去世后第一份成文的传记资料。
魂归吕梁
于成龙的灵柩启运回乡时，江宁知府“小于成龙”及老总督的门下诸生、士民数万人，步行相送二十余里，一路哭声震天，如丧考妣。
于成龙的灵柩回乡后，按一品大员的规格，享受了“祭葬”待遇，于第二年被隆重安葬在今方山县峪口乡横泉村。
墓室风格独特，全部用白瓷碗砌成，碗里装有石灰和松香。石灰和松香都是天然的干燥剂和防腐剂，同时，石灰象征着“一世清白”，松香象征着“万古流芳”。而白瓷碗，则象征着“挽留”，象征着大家依依不舍的思念。
由于朝廷的全额拨款，一代清官于成龙在下葬时，墓中随葬了大量财物，属于“厚葬”。于大人一生清苦，吃糠咽菜，去世后却躺进了金银珠宝堆里，在黄土垅中享受那看不见的荣华富贵。邢氏夫人多年后去世，和于成龙合葬在一起。他们的墓碑，是由清朝名相、山西老乡、亲戚陈廷敬书写的。