首先，有必要介绍一下陈郡谢氏家族的渊源。
前文写道，谯郡桓氏家族的祖上是东汉著名的经学大师桓荣，又是齐桓公的后裔。而谢氏家族的渊源，似乎要比桓氏家族深得多，这个渊源，还要追溯到西周时期，谢氏的祖上，正是周宣王的母舅，申国的开国之君——申伯。谢氏家族的姓氏来源，就与申伯有关，《邵思姓解》中，这样记载谢氏家族的来历，“周宣王后申伯食采于谢，因而氏焉”，申伯当年被周王室封在了谢邑，所以这一支的后裔，就以“谢”作为姓氏。
那么，谢氏家族又为什么也被称作“陈郡谢氏”？那是因为谢氏家族祖居陈郡阳夏，也就是今天河南太康，当年，申伯所封的食邑谢邑，就是位于今天南阳、唐河一带，而谢氏家族的祖居地，距离古谢邑也不过几百里的路程。所以，后世的史学家就推断，谢氏家族很有可能是从古代谢邑迁徙于此。
而开启谢氏家族家风传承的始祖，不是别人，正是谢安的祖父——谢衡。谢衡是陈郡谢氏家族的第一代“掌门人”，是谢衡开启了“雅道相传”、“诗书传家”敦厚儒雅的家风，谢安的政治家气度，一部分脱胎于他的祖父谢衡。
提及谢衡的父亲，也不是籍籍无名之辈，谢衡的父亲，名叫谢缵。关于谢缵，《晋书·谢鲲传》中，只是简单地介绍了几句，“祖缵，典农中郎将。”谢缵这一辈子，只做到了典农中郎将一职。
那么，典农中郎将又是一个什么样的官职？这是三国时期曹魏设置的一种官职，分为典农中郎将和典农校尉。胡三省注引《魏志》中说：“曹公置典农中郎将，秩二千石；典农都尉，秩六百石或四百石，典农校尉，秩比二千石。”典农中郎将主要掌管农业生产、民政和田租等事务，职权堪比太守，相当于“后勤部长”，连西晋王朝的奠基者司马昭，都曾经担任过典农中郎将。而谢缵便曾经当过曹魏的典农中郎将。
可惜的是，谢缵在史书中的身影，仅仅留下了这样简单的几笔，之后便在史书文献中销声匿迹了。因此，我们无法推断出谢缵之后的人生轨迹，也无从得知关于谢缵的另外事迹，所以，谢缵不应该被当作是谢氏家族的始祖，应该是从他的儿子谢衡开始算起。
虽然，史书中对于谢衡的记载也不多，甚至，《晋书》中，都没有一篇有关他的独立传记，只是在《晋书·谢鲲传》、《晋书·贾谧传》、《晋书·礼志》中偶尔提及。可是，从稀少的文字记述中，依旧可以看出谢衡的风骨，一种作为儒家知识分子的敦厚与守正。
“硕儒”，是对谢衡最为恰当的评价，可见，谢衡不仅是一般的儒士，而是儒者中的翘楚。这与谢衡所生活的时代背景息息相关。
咸宁五年(279年)，晋武帝司马炎平灭东吴，“王濬楼船下益州，金陵王气黯然收”，统一全国，结束了三国鼎立的乱世。统一全国之后，晋武帝励精图治，努力发展生产，开创了中国历史上极为罕见的治世——“太康之治”。
在国家初定，四海升平的盛世背景之下，作为正统的儒家思想，开始发挥起了重要作用。早在西晋立国之初，晋武帝司马炎便确立了“以儒治国，以德治国”的治国思想，李密《陈情表》中都说，“伏惟圣朝以孝治天下，凡在故老，犹蒙矜育”。统一全国后，西晋统治者更需要用儒家思想来治理国家，因此，许多满腹经纶的儒士，纷至沓来，步入朝堂，而谢衡便是他们其中的一位，据《晋书·礼志》记载：
宣景戎旅，未遑伊制。太康平吴，九州共一，礼经咸至，乐器同归，于是齐鲁诸生，各携缃素。武皇帝亦初平寇乱，意先仪范。其吉礼也，则三茅不翦，日观停瑄；其凶礼也，则深衣布冠，降席撤膳。明乎一谦三益之义，而教化行焉。
步入朝廷之后，太康元年(280年)，谢衡被任命为守博士。博士并不是指的是现在大学中的博士学位，在古代，博士本来是指博学多闻的饱学之士，《战国策·赵策三》中有过记载：“郑同北见赵王，赵王曰：‘子南方之博士也。’”
到了秦汉，博士便成为了一种掌管图籍，通晓史事的学官。西汉建元五年(前136年)，汉武帝设五经博士，增置《易》、《礼》博士，与文、景时期的《书》、《诗》、《春秋》，合为“五经博士”。博士虽然品阶不高，但却极受朝廷和社会的尊重，所以，担任博士的人选，一定是博学多闻的饱学之士。谢衡能够胜任守博士一职，足见他的博学是公认的。
谢衡是一位地地道道的儒家知识分子，精通儒学经典，信奉儒家思想，当初正是以儒学入仕。也正是因为儒学，才为谢衡在官场上的升职提供了不少便利。关于谢衡的“官场升职记”，史书上只是一笔而过。
到了晋惠帝时期，元康元年(291年)，谢衡升任国子祭酒，《晋书·谢鲲传》记载，“父衡，以儒素显，仕至国子祭酒”。早在咸宁二年(276年)，西晋政府就创办了一所专门培养贵族子弟的高级学府——国子学，其目的也是为了拉拢士族。谢衡出任国子祭酒，其实也就相当于中央大