丘灵鞠是吴兴郡乌程县人。祖父丘系，官秘书监，父亲丘道真，作护军长史。
灵鞠从小爱读书，善写文章，州里征召他作从事。到领军沈演之处报到，演之说：“从前我作州从事，到领军谢晦处报到，宾主坐的位置正和今天一样，你将来也会和我现在的位置一样。”后逐步升迁为员外郎。
宋孝武帝的殷贵妃去世，灵鞠献挽歌三首，其中有：“云横广阶..，霜深高殿寒。”孝武帝对这两句叹赏不已。后来作乌程县令，不得志。泰始初年，犯了事被限令数年不得作官。褚彦回作吴郡太守，对别人说：“北郡的才子只有丘灵鞠和沈勃而已。”于是向朝廷启奏介绍他。明帝让他著《大驾南讨记论》。过了很长一段，委任他为太尉参军。升明年间，作正员郎，兼中书郎。当时正是宋帝禅让，齐高帝让灵鞠负责诏令文书。建元元年(479)，改任中书郎，下诏让他主持东宫书写工作。曾有一次东回故乡，到司徒褚彦回家告别，彦回不起身，说：“近来脚病加重，再也起不来了。”灵鞠说：“脚病真是大事，您是一代重臣，不可再担任您不能胜任的职务了。”他就是这样强硬严刻。他不讲求仪容礼节，只求高兴舒适。不久又主持修国史。
齐武帝即位，任通直常侍，不久主持东观祭酒。灵鞠说：“人们作官都希望屡次升迁，让我作一辈子祭酒我都没什么遗憾。”永明二年(484)，兼作骁骑将军。灵鞠不乐意任武职，对别人说：“我应该回家乡把顾荣的墓扒了。江南地方数千里，风流才子都出在这里，顾荣突然招引一些乡巴佬南渡，挡了我们这些人的道儿，真是死有余辜。”灵鞠好饮酒，爱评论褒贬别人。一次在沈深家作客，见到王俭的诗，沈深说：“王俭文章大有长进。”灵鞠问道：“比我没长进时怎么样？”这话传到王俭耳朵里。灵鞠在宋时文章名声很大，入齐以后名气渐衰又仪表不整，披头散发松松垮垮，不理家务。王俭对人说：“丘公作官不见升迁，文才也走下坡路了。”灵鞠作长沙王萧晃的车骑长史时去世。著有《江左文章录序》，起于太兴年间，止于元熙年间，文集当时流行于世。