衡南县因地处南岳衡山以南而得名。

西汉高祖五年(公元前202年)始建酃县。

至清乾隆二十一年(1756年)析衡阳县东南境置清泉县，立郡设州，析县置府，分区建市，几易其名。

衡南县始建于1952年7月，虽时间不长，然溯源稽古，历史悠久。

2000年，衡南县辖21个镇、3个乡。

2001年4月4日，将衡南县的雨母山乡划归衡阳市蒸湘区管辖。

2004年1月19日，民政部批准同意衡南县人民政府驻地由衡阳市石鼓区中山北路迁至衡南县云集镇。