蘇子高事平，王、庾諸公欲用孔廷尉為丹陽。亂離之後，百姓雕弊，孔慨然曰：“昔肅祖臨崩，諸君親升禦床，並蒙眷識，共奉遺詔。孔坦疏賤，不在顧命之列。既有艱難，則以微臣為先，今猶俎上腐肉，任人膾截耳！”於是拂衣而去，諸公亦止。

　　謝太傅盤桓東山時，與孫興公諸人泛海戲。風起浪湧，孫、王諸人色並遽，便唱使還。太傅神情方王，吟嘯不言。舟人以公貌閑意說，猶去不止。既風轉急，浪猛，諸人皆諠動不坐。公徐雲：“如此，將無歸！”眾人即承響而回。於是審其量，足以鎮安朝野。

　　世目殷中軍：“思緯淹通，比羊叔子。”