很快就认识到，白话文的运用，绝不是一种文字工具的改革，乃是一场社会意识与社会规范的改革。白话文，是文学革命的工具，更是改革社会的利器。任何陈腐的观念和窳陋的习俗，都将在白话文的攻势下溃败与消亡。在前面引用过的《知识分子与现代中国》一书中，作者说：“在后来的论争中，胡适的新创见是，白话文必须取代文言文，而不仅仅只作为文言的补充。”在《胡适与中国的文艺复兴》一书中，同一作者对这一点说得就更为明确了：“文学革命从其发端就是更广阔范围的思想改革运动的工具。”可以说，将白话文不仅是作为书写的工具，而是作为改革社会的利器且终其一生身体力行，乃是胡适对中国文化事业，对中国社会进步的最大的贡献。正是在这样的意义上，海内外许多人都认为他是中国现代的孔夫子，“微胡适，吾其披发左衽矣”。

为了让更多的人认识到白话文的意义，也是为了给自己的理论找到更为坚实的史实根据，胡适在倡导白话文的同时，就开始写他的《白话文学史》。最初是他的讲义，也不是叫这个名字。据《白话文学史·自序》上说，一九二一年教育部办第三届国语讲习所，要他去讲国语文学史，他在八个星期之内写了十五篇讲义，约八万字。这部讲义叫《国语文学史》，只写到南宋的白话文。第二年他去天津南开学校讲演，晚上住在旅馆，忽然想到要修改这部讲义，当下便取出稿本，作了删改，归并为三篇。仍不满意，次日在旅馆里又拟了一个大计划，定出新的纲目。不久办起《努力周报》，后来又病了，没有工夫实行这个大的计划。直到五年后从海外回到上海，时局动荡，难以北上，就在上海住了下来。待到和徐志摩等人办起新月书店，在朋友们的劝说下，才决定把这部文学史修改出来。说是修改，实则是重写。“从汉初写到白居易，在北京印本只有六十一页，不满二万五千字；在新改本里却占了近五百页，约二十一万字，增加至九倍之多”。预计全书写完，大概有七十万到一百万字。实际上，只写到唐代就停止了，约二十一万字，叫做《白话文学史》上卷。他的《中国古代哲学史》也只写了上卷，终其一生，这两部书都没有写完，只有上卷没有下卷，因此有人说他是“上卷先生”。