劉遵祖少為殷中軍所知，稱之於庾公。庾公甚忻然，便取為佐。既見，坐之獨榻上與語。劉爾日殊不稱，庾小失望，遂名之為“羊公鶴”。昔羊叔子有鶴善舞，嘗向客稱之。客試使驅來，氃氋而不肯舞。故稱比之。

　　晉武帝講武於宣武場，帝欲偃武修文，親自臨幸，悉召群臣。山公謂不宜爾，因與諸尚書言孫、吳用兵本意。遂究論，舉坐無不咨嗟。皆曰：“山少傅乃天下名言。”後諸王驕汰，輕遘禍難，於是寇盜處處蟻合，郡國多以無備，不能制服，遂漸熾盛，皆如公言。時人以謂山濤不學孫、吳，而闇與之理會。王夷甫亦嘆雲：“公闇與道合。”

　　太傅有三才：劉慶孫長才，潘陽仲大才，裴景聲清才。