此时对自己，对世界，都不能不坚持那道德上的’不承认主义’，就是决不承认侵略者在中国领土上用暴力造成的任何局面，条约，或协定。我们要准备牺牲，要准备更大更惨的牺牲。”
而在8月13日，上海战事爆发，对日全面抗战开始后。胡适更是彻底丢掉了和平幻，想，积极投身到了抗日救亡之中了。
1933年5月23日，离北平60余里的怀柔县附近，我国华北军第七军团五十九军的一千多名将士，与日寇展开了一场壮烈的血战。
战斗从早晨四时开始。中国健儿们冒着敌人飞机的侦察轰炸，赶筑阵地，在坚硬的岩石中掘成良好的战壕。坚守到了下午，因为停战协定已签订，上级便命令他们撤退。但他们正在酣战中，又听到那丧权辱国的停战消息，更不愿放弃这难得的抗敌机会，一直坚持战斗到下午7时才撤下阵地。在这次战役中，有203位将士壮烈殉国。
后来，国民政府将这些抗日战死将士安葬在大青山，建立公墓，树碑纪念。傅作义将军特意请胡适为公墓撰写碑文。胡氏欣然允诺，并为抗敌将士“最壮烈的血战”所感动，以极端敬仰的深情，写了一篇白话碑文，由钱玄同书丹，刻石建碑在大青山麓，这就是大青山《抗日战死将士公墓碑》。
碑文中愤怒谴责《塘沽协定》是一个耻辱的“城下之盟”，是“国耻”，热烈歌颂抗敌将士的壮烈血战和英勇殉国的精神，说“一千多个中国健儿用他们的血洗去了那天的‘城下之盟’的一部分耻辱”，“用他们的血染中华民族历史的一页”。最后的铭文写道：
“这里长眠的是203个中国好男子!
“他们把他们的生命献给了他们的祖国。
“我们和我们的子孙来这里凭吊敬礼的，要想想我们应该用什么报答他们的血。”
但是，到了1935年，日本侵略者阴谋吞并华北五省。国民党政府屈服于日军的压力，6月初，由亲日派大将何应钦出马，与驻华北日军司令梅津美治郎秘密谈判，签订卖国的《何梅协定》，断送了华北的大部分主权；又取缔反日运动，“何应钦将军有命令，一切抗日的纪念物都应掩藏”，连大青山抗日战死将士公墓碑也在“取缔”之列。胆小的何应钦“打了几个电报给傅作义，叫他消灭一切‘抗日’的标帜，尤其是这里的阵亡将士公墓。
傅不得已，把塔上‘抗日阵亡将士公墓’的‘抗日’二字挖改成了‘长城’二字”，碑文也蒙上了一层沙石，另刻上了“精灵在兹”四个大字。全国送来的匾、联、铭、赞，凡有刺激性的，都设法迁毁了，只剩林森题写的“河山壮气”一个匾。
7月5日，胡适曾随同傅作义将军同去绥远看大青山“抗日阵亡