江湛字徽深，守丧以孝顺闻名。喜爱文义，善于弹棋鼓琴，兼明算术。担任彭城王刘义康的司徒主簿、太子中舍人。司空檀道济为他的儿子求娶江湛的妹妹，没有答应，刘义康下了指示，又不听从。当时的人们推重他的立有志向。刘义康兴盛，人们都争着自求交好，只有江湛自己疏远，坚决要求外出，于是让他做了武陵内史。随王刘诞担任北中郎将、南徐州刺史，以江湛为长史、南东海太守，把政治事务委托给他。
元嘉二十五年(448)，被征为侍中，让他担任机密工作。调任左卫将军。当时更改选任学校官员，由太尉江夏王刘义恭兼任国子祭酒，江湛兼任博士。
转任吏部尚书。他家里十分贫寒，不经营财利，馈赠财物的人挤满门槛，可是他一点也不接受。他没有双套衣服和多余的粮食，曾经有一次被皇上召见，正遇上洗衣服，他便自称有病挨了一两天，衣服干了，然后才起身。有一次牛饿了，驾车人找他要草，江湛过了好大一阵才说：“可以让它喝水。”在选录人才的职位上，对他颇有考核苛严的讥讽，但他公平无私，不接受请客送礼，谈论者因此对他非常称赞。
起初，皇上大举北侵，全朝廷的人都认为不可以这样做，只有江湛赞成他。等魏太武帝到了瓜步，让江湛兼任领军，军事处置，全部委任给他。魏朝派遣使者前来求婚，皇上召太子刘劭以下的人集中讨论。众人都说应该答应，江湛认为答应了没有什么益处。刘劭生气地对江湛说：“现在三位王爷被困在那边，怎么能够随便地坚持异议。”声色十分严厉。散会以后大家都出去了，刘劭让自己的仪仗和随从推挤他，差点摔倒。刘劭后来宴集，没有邀请江湛，皇上便为刘劭的长子刘伟之代聘江湛的第三个女儿为婚，想以此来使他们和解。皇上即将废除刘劭，让江湛撰写诏书的草稿。刘劭入宫杀害皇帝，江湛正在上省值勤，听到叫声便藏在旁边的小屋里。刘劭派人找他，舍中的官吏骗他们说“不在这里”。兵士杀了舍中的官吏，才见到了江湛。江湛靠着窗户被害，神色不屈。五个儿子江恁、江恕、江敬心、江孙心、江法寿都被杀死。起初，江湛家里多次见到怪异现象，在尚未遇难的前不几天，他所睡的床上忽然有几斗血。孝武帝即位，追赠为左光禄大夫、开府仪同三司，谥号为忠简公。