胡谐之，豫章南昌人。祖父胡廉之，书侍御史。父亲胡翼之，受到州府的聘用而没有赴任。
胡谐之在宋朝做官为邵陵王左军咨议。齐武帝为江州刺史，以胡谐之为别驾，委托他主管事务。
建元二年(480)，担任给事中、骁骑将军。上方打算奖赏给他贵族的婚姻，因为胡谐之家的人讲方言，语音不正，便派了宫中的四五个人往胡谐之家去教子女说话。两年后，皇帝问道：“卿家中的人语音已经纯正了吗？”胡谐之回答说：“宫人少，臣家里的人多，不但不能正音，却使宫人也变成方言。”皇帝大笑，普遍向朝臣说起这件事情。
永明五年(487)，他任左卫将军，加给事中。胡谐之风采美好，善于自处，兼以旧时的恩德受到优待，朝士多愿意和他交游。六年，调为都官尚书。皇上打算要提升胡谐之的时候，曾经从容地对他说：“江州有几个侍中呢？”他回答说：“近世只有程道惠一人而已。”皇上说：“应当让它有两个。”后来他把这话告诉了尚书令王俭，王俭心里更感到诧异，便让他当了太子中庶子，兼左卫率。
胡谐之很有见识，每当朝廷官员出缺以及应该升迁替代，秘密估量皇上所用人选，都和他说的一样。虞..因此对他十分佩服。升任权要职位以后，向下面征求物品很多。他向梁州刺史范伯年求好马，范伯年很为难，对使者说：“马不是狗子，怎么能够满足无穷的搜求！”接待使者很淡薄，使者非常怨恨地回去了，对胡谐之讲：“范伯年说，胡谐之是个什么狗东西，无厌地搜求！”胡谐之切齿愤恨。当时王玄邈取代范伯年，范伯年称病推延没有及时回京。胡谐之对皇帝说：“范伯年倚仗山川险固，聚众企图独占一州。”等范伯年回京，皇帝打算不再过问，胡谐之又说：“见到猛兽，捉住了它却又放上山去么？”皇帝于是赐他自杀。
永明十年(492)，胡谐之转任度支尚书，兼卫尉。第二年去世，谥号肃侯。
范伯年本来是梓潼人，土地属于梁州华一一郡。起初担任州将，刘亮派他到京城咨询事情，见到了宋明帝。明帝在说话间谈到了广州的贪泉，于是便问范伯年说：“卿的州上也有此水吗？”回答说：“梁州只有文川、武乡、廉泉、让水。”又问他：“卿的宅院在哪里？”回答说：“臣的住处在廉让之间。”明帝感叹他善于答对，于是受到欣赏。历任内外职务，终止于梁州刺史。