一丘之貉一词最早出自《汉书・杨恽传》。

杨敞是汉朝丞相杨恽的儿子，他自幼家教良好，是当朝名人。汉宣帝时，霍氏谋反，杨恽因检举有功，被封为平通侯。后来，杨恽担任中山郎后，革除贿赂弊病，得到满朝官员的称赞。但是，杨恽日渐骄傲自满，得罪了太仆长荣。有一次，杨恽听见降汉的匈奴人说匈奴的领袖单于被人杀了，便感叹到：“不好的君主，从来不听从大臣拟好的国策。

就像秦朝的君王一样，信小人杀忠良，导致亡国。从古到今的君王都是信任小人，真像同一山丘出产的貉一样”。长荣听到这番话后，将此事告诉了汉宣帝。汉宣帝听后十分震怒，下令罢免了杨恽的官职。

这成语在应用时，都是用来形容反面的事物，即使是形容否定的事物；含有不屑一谈和讥诮的口吻。例如说有一群人专门造谣生事，无事生非，故意与人为难，他们中间没有一个是好人，就可说：这批东西都是“一丘之貉”，那有一个是好人呢！