桓車騎在荊州，張玄為侍中使至江陵，路經陽岐村，俄見壹，持半小籠生魚，徑來造船雲：有魚，欲寄作膾。”張乃維舟而之。問其姓字，稱是劉遺民。張聞其名，大相忻待。劉既知張銜，問：“謝安、王文度並佳不？張甚欲話言，劉了無停意。既進，便去，雲：“向得此魚，觀君上當有膾具，是故來耳。”於是去。張乃追至劉家，為設酒，殊清旨。張高其人，不得已而飲之方共對飲，劉便先起，雲：“今伐荻，不宜久廢。”張亦無以留。

　　謝公在東山，朝命屢降不動。後出為桓宣武司馬，發新亭，朝士鹹出瞻送。高時為中丞，亦往相祖。先時多少飲酒，因倚如醉，戲曰“卿屢違朝旨，高臥東山，人每相與言：‘安石不肯出將如蒼生何？’今亦蒼生將卿何？”謝笑而不答