孫秀既恨石崇不與綠珠，又憾潘嶽昔遇之不以禮。後秀為中書令，嶽省內見之，因喚曰：“孫令，憶疇昔周旋不？”秀曰：“中心藏之，何日忘之？”嶽於是始知必不免。後收石崇、歐陽堅石，同日收嶽。石先送市，亦不相知。潘後至，石謂潘曰：“安仁，卿亦復爾邪？”潘曰：“可謂‘白首同所歸’。”潘金谷集詩雲：“投分寄石友，白首同所歸。”乃成其讖。

　　桓玄既篡位，將改置直館，問左右：“虎賁中郎省，應在何處？”有人答曰：“無省。”當時殊忤旨。問：“何以知無？”答曰：“潘嶽秋興賦敘曰：‘余兼虎賁中郎將，寓直散騎之省。’玄咨嗟稱善。

　　夏侯湛作周詩成，示潘安仁。安仁曰：“此非徒溫雅，乃別見孝悌之性。”潘因此遂作家風詩。