史料真伪与价值最终的判别必依靠精准的考证。前文我们说过，学衡派对于纯粹的考据是持否定态度的。他们更倾向于在学术研究之阐扬微言大义。但这只能被看做是他们学术活动的目标，并不能由此得出他们不重视考证的结论。实际上，他们的多数史学研究之成果是建立在详密、坚实的考证工作的基础之上的。同时在理论上，他们对考证之学也有一定的发挥。张其昀说强调考据对于史学研究是极端重要的：“考据为史学必经之历程，不由其道，则不解典籍，或误解典籍”；“无考据即无历史”。学衡派在实际的研究中，也非常注重吸收、借鉴乾嘉考据学传统和西方的考据学方法，并且显示出了深厚的学力。在柳诒徵、缪凤林等人的著作中，精到的考据处处可见。到20世纪40年代，陆懋德把考证之学加以理论化，系统化。他将考证的工作分为两个步骤，外考证（external criticism）与内考证（internal criticism）。“外考证者，是决定某种材料之真伪。内考证者，是决定某种材料之陈述，是否可信或可能。”他举例说：“今欲采用某种印本或稿本作为史料，第（一）步须先研究此本是否为当时之真本，如经证明为真本，不过只是某时代内之真记载而已。然记载是真本，是一问题，而所记是否可信，另是一问题。故第（二）步是在认为真本之后，再须研究此真本所言之内容是否可信，此即为内外二种考证之分别。”如斯通过内外考证确定史料本身及其所述内容的真伪虚实之后，下一步就是探求历史事实：“史料是起点，事实是目的。”有可靠的史料和清晰的历史事实为基础，史学研究寻求历史规律的宗旨也就不难达到了。
辨别史料的真伪不是史学研究的最后目的，重要的是如何去解释历史。在这一问题上，学衡派提出了自己极为精辟与重要但又长期为人所不重视的观念，即就是所谓的对历史做“了解之同情”。这一观念在张荫麟评论冯友兰《儒家对于婚丧祭礼之理论》时有所表露。文中他对冯友兰以现代的统系来比附古代的思想作法提出了批评：“冯君又以为儒家之注重丧礼，欲使死者长留于子孙之记忆中，因以得‘受人知’之不朽，谓‘此儒家理论化之丧祭礼所应有之含义’。按此说既不能于儒家典籍中得丝毫根据，只能谓之或有这含义，不能谓应有也。以客观的思想史家之地位立言，此类可有可无之附益品实以刊落为宜。吾知冯君之为此说，不过欲连接下文婚礼之理论，使前后成为一贯之统系。夫以现代自觉的统系比附古代断片的思想，此乃近今治中国思想史之通病。此种比附，实预断一无法证明之大前提，即谓凡古人之思想皆有自觉的统系及一致的组织，然从思想发达之历程观之，此实极晚近之事也。在不与原来之断片思想冲突之范围内，每可构成数多种统系。以统系化之方法治古代思想，适足以愈治而愈棼耳。”如果说张荫麟是从反面批评以现代的统系去附会古人思想之弊的话，陈寅恪则做了正面的阐述。巧合的是，陈寅恪也恰是在评论冯友兰的著作时发出相同的议论。他说：“凡著中国古代哲学史者，其对于古人之学说，应具了解之同情，方可下笔。盖古人著书立说，皆有所为而发。故其所处之环境，所受之背景，非完全明了，则其学说不易评论。而古代哲学家去今数千年，其时代真相，极难推知。吾人今日可依据之材料，仅为当时所遗存最小之一部。欲藉此残余断片，以突击测其全部结构，必须备艺术家欣赏古代绘画雕刻之眼光及精神，然后古人立说之用意与对象，始可以真了解。所谓真了解者，必神游冥想，与立说之古人，处于同一境界，而对于其持论所以不得不如是之苦心孤诣，表一种之同情，始能批评其学说之是非得失，而无隔阂肤廓之论。否则数千年前之陈言旧说，与今日之情势迥殊，何一不可以可笑可怪目之乎？但此种同情之态度，最易流于穿凿附会之恶习。因今日所得见之古代材料，或散佚而仅存，或晦涩而难解，非经过解释及排比之程序，绝无哲学史之可言。然若加以连贯综合之搜集及统系条理之整理，则著者有意无意之间，往往依其自身所遭际之时代，所居处之环境，所薰染之学说，以推测解释古人之意志。由此之故，今日之谈中国古代哲学者，大抵即谈其今日自身之哲学者也。所著之中国哲学史者，即其今日自身之哲学史者也。其言论愈有条理统系，则去古人学说之真相愈远。此弊至今日之谈墨学而极矣。今日之墨学者，任何古书古字，绝无依据，亦可随其一时偶然兴会，而为之改移。几若善博者能呼卢得卢，喝雉成雉之比。此近日中国号称整理国故之普通状况，诚可为长叹息者也。今欲求一中国古代哲学史，能矫附会之恶习，而具了解之同情者，则冯君此作庶几近之，所以宜加以表扬，为之流布者，其理由实在于是。”此处足见张、陈二氏史识之卓越高远。他们的言论显然是有的放矢。当时西方各种思潮的传人，对于史学研究产生了很大的影响，开拓了研究视野，丰富了研究手段，这无疑有助于推动史学研究。但是相当多的研究者以西方理论考察历史时，往往牵强地以这些理论附会历史，以今人的眼光去评判古人，全然不顾当时历史发生的背景和条件。张、陈二人对此非常不满，他们主张将研究的目光尽可能地深入到历史情景去，将研究对象放置于当时的背景中去考察，予以“了解之同情”。只有这样，历史研究才能得出与事实尽可能一致的结论。遗憾的是，张、陈二人批评的这一现象在此后愈演愈烈，史学研究也愈来愈难以揭示历史的真实面目。
学衡派与新文化运动派在史学研究领域也处于对立的状态之中，尤其是在古史研究的问题上，双方发生了激烈的争论。争论是由顾颉刚、钱玄同等人关于占史的讨论引起的。顾颉刚在北大读书、任教期间，在胡适、钱玄同等人的影响下，逐渐产生了“疑古”的思想，经过对中国上古史悉心的研究，他提出了“层累地造成的中国古史”的论断，在学术界引起了震动。1923年，胡适邀顾颉刚为他主办的《读书杂志》撰稿。顾颉刚已经应钱玄同请求撰写了一篇论文，阐述自己对古史系统的观点。顾颉刚遂将这篇论文以《与钱玄同论古史书》为题，发表于1923年第9期《读书杂志》。文中，顾颉刚提出了“层累地造成中国的古史”的论断，认为典籍中关于古史的记载有大量虚假的成分，是传说层层累积造成的。他说：第一，“时代愈后，传说的古史期愈长”，“周代人心目中最古的人是禹，到孔子时有尧、舜，到战国时有黄帝、神农，到秦有三皇，到汉以后有盘古等”；第二，“时代愈后，传说中的中心人物愈放愈大”，“如舜，在孔子时只是一个‘无为而治’的圣君，到《尧典》就成为一个‘家齐而后国治’的圣人，到孟子时就成了一个孝子的模范了”；“第三，我们在这上，即不能知道某一件事的真确的状况，但可以知道某一件事在传说中的最早的状况。我们即不能知道东周时的东周史，也至少能知道战国时的东周史；我们即不能知道夏、商时的夏、商史，也至少能知道东周时的夏、商史”。总之，他对典籍中关于古史的记载持怀疑态度，认为是不可靠的。
张荫麟对顾颉刚的观点提出了质疑。首先，他认为顾颉刚的研究方法有问题，存在着“根本方法之谬误”，其错误之处在于对默证法的使用不当。何为默证法？张荫麟说：“凡欲证明某时代无某历史观念，贵能指出其时代中有与此历史观念相反之证据。若因某书或今存某时代之书无某史事之称述，遂断定某朝代无此观念，此种方法谓之“默证”（Argument from silence）。默证之应用及其适用之限度，西方史家早有定论。吾观顾氏之论证法几尽用默证，而什九皆违反其适用之限度。”他引述国外学者的观点提出，默证的使用只能用于两种情形：“（一）未称述其某事之载籍，其作者立意将此类之事实为有统系之记述，而于所有此类事皆可知之；（二）某事迹足以影响作者之想象甚力，而必当人于作者之观念中。”他认为顾颉刚使用默证法时超越了这一界限。对此他举例予以说明，他首先列举了顾颉刚的观点：“请观顾氏之论据：《诗经》中有若干禹，但尧舜不曾一见。《尚书》（除了《尧典》、《皋陶谟》）中有若干禹，但尧舜不曾一见。故尧舜禹的传说，禹先起，尧舜后起，是无疑义的。”他认为顾颉刚的这一推论完全违反了默证适用的限度：“此种推论，完全违反默证适用之限度。试问《诗》、《书》（除《尧典》、《皋陶谟》）是否当时历史观念之总记录，是否当时记载唐虞事迹之有系统的历史？又试问其中有无涉及尧舜事迹之需要？此稍有常识之人不难决也。呜呼，假设不幸而唐以前之载籍荡然无存，吾侪依顾氏之方法，从《唐诗三百首》、《大唐创业起居注》、《唐文汇选》等书中推唐以前之史实，则文、景、光武之事迹其非后人“层累地造成”者几稀矣！”在这篇文章中，张荫麟还就一些具体的史实向顾颉刚提出了质疑。除张荫麟外、柳诒徵、缪凤林等人也专门撰写论文批评了胡适、顾颉刚为代表的疑古思潮。
学衡派的信古观念折射出他们的文化理想。在柳诒徵看来，上古三代是其道德理想托身之所在，此时的教化制度实臻于至高无上之境界，他甚至说：“吾国文明，在周实已达最高之度。”在这样的理念的支配下，他显然不能容忍对古史的任何怀疑。这种对古史过信的态度显然受到了一种预设的理论、观念的影响，这对于以实事求是为最高原则的史学研究来讲，显然是不足取的。他的《中国文化史》虽为一代名著，但这本书将上古三代都作为信史来叙讲，不能不说带有武断色彩的。不过我们要看到，学衡派中崇古信古的成员也就柳诒徵一人而已。我们前面说过，学衡派的学术思想中虽带有道德理想主义的成分，但其大体上是恪守学术实事求是的原则的。正如张荫麟所言“义理与考据之学截然两事，吾人不当以历史事实偶有摇动，发见穿错误漏，而遂谓昔之人物与理想均无价值；亦不当以欲尊重或诋毁昔之人物与理想之故而变乱事实，虚造证据。”在实际的研究中，张荫麟也贯彻了这样的信念。后来他编写《中国史纲》之时，就首先从商代讲起，“以商朝为出发点，然后回顾其前有传说可稽的四五百年”。对于夏和夏以前的历史，因为无文字可证，只有传说的线索，他认为必须以存疑的态度对待之，而不能看做信史。这样的认识，和顾颉刚疑古的观念已没有太大区别了。而与学衡派关系密切的王国维提出的二重证据法则指明了古史研究之正确道路。当时信古和疑古的两派学者，都是以文献为根据，信古派自不必说，疑古派也在这方面有很大的缺陷。李学勤先生指出：“疑古一派的辨伪，其根本缺点在于以古书论古书，不能跳出书本上学问的圈子。限制在这样的圈子里，无法进行古史的重建。”而王国维提出的二重证据法，把古书的记载与考古成果结合起来，开启了古史研究应该遵循的不二法门。
纵观二派的争论，就会发现他们之间实无太大的分歧，甚至连研究方法的差异都谈不上。他们所争论的大多不过是对一些具体的史实不同的研究结论而已，他们的研究方法实际都是以实证研究为基础，都在事实上推动着中国史学向前发展，二派之间理应能够进行对话和交流。然而，双方争论的措辞却都非常严厉和激烈．充满了意气之争的味道。当时各个文化派别之间互不宽容的程度，由此可见一斑。所幸的是，这一争论并无大碍于各自的学术研究，他们都沿着各自的学术道路做出了非凡的成就。
