濂溪巷位于衡阳市石鼓区境内，南起司前街，北至潇湘街。古时，巷内有濂溪祠，故又称濂溪街。民国时改称五甲巷。文革时改为红旗路二巷，1981年恢复为濂溪巷。濂溪巷的得名与宋代大理学家周敦颐有关。

周敦颐是湖南道州道县人。宋仁宗天圣2年(公元1024年)，周敦颐七岁时，因父母亲去世，母亲带着他来到衡州府投靠哥哥郑向。当时，郑向在衡州府城西的凤凰山上隐居读书。郑向将妹妹和外甥安置在自家，并对周敦颐进行启蒙教育，奠定了他的文学基础。

宋仁宗天圣9年(公元1031年)郑向到京师做官，周敦颐也随舅父和母亲离开衡州去了京师。周敦颐后来做过一些小官。但是他致力于研究《周易》，写出了重要的理论著作《太极图说》，从而奠定了他的理学地位。

周敦颐死后，随着学生程颐、程颢对他的哲学的继承和发展，他的名声也逐渐显扬。周敦颐成了北宋理学的创始人。南宋时许多地方开始建立周敦颐的祠堂，人们甚至把他推崇到与孔孟相当的地位，帝王们也因而将他尊为人伦师表。现在的人们，一般都读过他的文学名篇《爱莲说》。

周敦颐一生中，有18年是在衡州居住或来衡讲学。据《清泉县志》记载：宋开禧3年(公元1207年)知县唐晔为纪念郑向、周敦颐，在郑向故宅遗址凤凰山，始建“濂溪寺”，这实际上是一座书院，此建筑毁于元朝末年战火。