元谐,河南洛阳人也,家代贵盛。谐性豪侠,有气调。少与高祖同受业于国子,甚相友爱。后以军功,累迁大将军。及高祖为丞相,引致左右。谐白高祖曰:“公无党援,譬如水间一堵墙,大危矣。公其勉之。”尉迥作乱,遣兵寇小乡,令谐击破之。及高祖受禅,上顾谐笑曰:“水间墙竟何如也?”于是赐宴极欢。进位上大将军,封乐安郡公,邑千户。奉诏参修律令。