胡思杜自杀44天后的1957年11月4日，经台湾当局“中央研究院”选举，由蒋介石任命胡适为“中央研究院”院长。大陆批胡运动与台湾政治集团的内部倾轧，阴差阳错地使渐入老境的胡适又得到了一次出头的机会。
1958年4月2日，68岁的胡适告别夫人江冬秀离开纽约办理私务，8日乘机独自一人飞抵台北，时已定居台北的胡祖望夫妇、孙子胡复，连同台湾当局要员等500多人到松山机场迎接，场面颇为壮观。
4月10日上午9时，装扮一新的胡适来到南港史语所考古馆出席“中央研究院”院长就职典礼并发表演说。胡称自己几十年来与“中央研究院”一直保持亲切关系，因为不仅自己是“中央研究院”历史语言研究所的通讯研究员，也因为“中央研究院”是许多老朋友心血的结晶，自己对它有不可推卸的责任云云。就职典礼结束后，旋即召开研究院第三次院士会议，以壮声势。为显示对学术界的尊重并给胡适装点面子，蒋介石携“副总统”陈诚、张群等一干大员专程赶到南港，亲自出席院士会议并致辞。蒋介石认为，既然“中央研究院”为学术之最高机构，当责无旁贷地担负起复兴民族文化的大任，认为“目前大家共同努力的唯一工作目标，为早日完成‘反共抗俄’使命，如果此一工作不能完成，则吾人一切努力均将落空，因此希望今后学术研究，亦能配合此一工作来求其发展”。蒋氏在讲到胡适“最令人敬佩者即为其个人之高尚品德”后，话锋一转，再度将学术研究与政治联系起来，谓：
今日大陆上“共匪”以仇恨与暴力，为其一切倒行逆施之出发点，其目的在消灭我国家之传统历史与文化，而其重点则为毁灭我民族固有之伦理与道德，因此胡适先生之思想及其个人之德性，均不容于“共匪”，而必须予以“清算”，即为“共匪”摧毁我国伦常道德之一例……意想不到的是，蒋介石期望“教育界、文化界与学术界人士，一致负起恢复并发扬我国固有文化与道德之责任”的说辞，令身旁的胡适大为不快。特别是蒋不合时宜地提出“五四运动”与“打倒孔家店”有功有过，对胡适提倡的“五四价值”、“自由主义”等说辞，于褒中暗含了讥讽、挖苦，而对胡适与台湾岛上的雷震等辈搞出的《自由中国》杂志，且传言胡在台要组建一个“反对党”等名堂极不赞成。这一说辞搞得入会者如芒在背，惶恐不安，胡适原本笑容可掬的脸阴沉下来。
此前的胡适尽管在美国生活并不舒心，九年后又因各种风云交错重返台湾从国民党手中谋得一个响当当的铁饭碗，但他并不认为这个饭碗是蒋介石所赏赐便俯首听命，自轻自贱。待蒋介石讲完，梅贻琦向来宾作了一个简短的致辞后，已是闷气积胸，颇为恼怒的胡适在最后答谢词中，毫不客气地对蒋的言辞进行驳斥，据当时在场的“中央研究院”民族研究所青年才俊李亦园回忆说：
胡院长就职时蒋老总统特别亲自来了，来了之后还讲话，在他的讲话中不知为什么忽然说到共产党在大陆坐大可以说与五四运动的提倡自由主义不无关系，这样的说话对胡先生来说当然是非常尴尬的，因为五四运动跟他有密切的关系，他是重要的推动者。结果老总统讲完之后，胡先生站起来继续答话，他的答话让大家脸色都凝住了，他一开始就说：“总统你错了”，在当时那么威权的时代，他这样讲使全场的人脸色都变白了，气氛非常紧张，老总统却很有风度地主持完会议，只是在胡院长任内就未再来过南港了。这一件事，胡院长的表现可以说确实为中央研究院在追求学术自由与独立上树立了一个里程碑。
关于这一场景，当时也在现场的石璋如回忆稍有不同，石说：蒋介石那天讲了很久，场面热烈，胡院长一发言就说“总统你错了”，台下立即鼓掌。在座的学者们认为胡适是个有骨气、有担当的人，因为若不是胡适，在蒋介石面前“没有几个人敢说这句话的”。
胡适所说的“总统你错了”，主要是指不应把学术研究与政治捆绑在一起，“反共抗俄”的所谓“使命”，也不应由“中央研究院”这样的研究机构来承担。胡适说道：“我个人认为，我们学术界和‘中央研究院’挑起‘反共复国’的任务，我们做的工作还是在学术上，我们要提倡学术。”
面对蒋介石指责五四运动提倡自由主义与打倒孔家店的问题，胡适自是耿耿于怀，并予以反驳。胡说：“对于打倒孔家店一事，恐怕总统是误会了我的意思。我所谓的打倒，是打倒孔家店的权威性、神秘性，世界任何的思想学说，凡是不允许人家怀疑的、批评的，我都要打倒。”蒋介石一听其言，立即怫然变色，站起身便要走，坐在他旁边的一位随行官僚（一说张群，另一说陈诚），悄悄伸手拉住老蒋的衣角示意其坐下，蒋强按怒气勉强坐下，待典礼一结束便迅速离去。
遥想当年，胡适在一篇名为《介绍我自己的思想》一文中，曾向中国的少年读者宣称：“从前禅宗和尚曾说，‘菩提达摩东来，只要寻一个不受人惑的人。’我这里千言万语，也只是要教人一个不受人惑的方法。被孔丘朱熹牵着鼻子走，固然不算高明，被马克思列宁史（斯）大林牵着鼻子走，也算不得好汉。我自己决不想牵着谁的鼻子走。我只希望尽我的微薄的能力，教我的少年朋友们学一点防身的本领，努力做一个不受人惑的人。”这一点，胡适本人确是做到了。对于这一说法，世人有不同评论，如胡在美国的学生、史家唐德刚就说过，胡适不知不觉地被他的老师杜威这个糟老头子牵着鼻子走了一辈子。唐氏之说或可再讨论，但至少胡在蒋介石集团之间大体的是做到了。
1959年，作为新任“中央研究院”院长、学界领袖胡适，公开反对蒋介石连任“总统”，对蒋氏为谋求连任而冒天下之大不韪，置党章国法于不顾，欲强行“修宪”的做法更是大加声讨。按1948年制定的《中华民国宪法》，每届总统任期六年，连任不得超过两次。当年拟定《宪法》的张君劢等人考虑到一个没有限期的总统，等同于王朝世袭，因而特别加以限制。跑到台湾的国民党政权仍以中华民国正朔自居，因而当年这部《宪法》仍然发生效力。1954年蒋介石获得第二次连任，到1959年年底已是五年，眼看大限已至，下次选举应该自动退选，但蒋介石与国民党内部一部分拍马溜须者竟置《宪法》于不顾，公然支持蒋介石参选，并欲修改《宪法》。为此，胡适在1960年2月20日公开发表声明，反对蒋介石违背《宪法》三次连任“总统”，并拒绝即将召开的“国大”主席团主席之职。对于胡氏的“犯上”举动，蒋介石大不痛快，其子蒋经国更是异常恼怒，甚至有“收拾”胡的打算，只是忌讳胡适所具有的儒林盟主地位和非凡的国际影响而迟迟不敢动手。端坐在台湾“中央研究院”院长椅子上的老胡适，在强烈呼吁并制止蒋介石连任“总统”的同时，并未忘掉一介书生的本色，于繁杂的公务之余，仍窝在书房对研究了大半生的神会和尚继续穷究细研。1960年2月9日，胡适在“中央研究院”历史语言研究所演讲他的新作《禅宗史的假历史与真历史》。20日，出席“国民大会”第三次会议。3月10日夜，所著《神会和尚语录的第三个敦煌写本：南阳和尚问答杂征义——刘澄集》终于脱稿。正是这部耗损了胡适大量心血的著作，使其在脱稿的当夜即心脏病复发，延至19日，病情加重，不得不入住台大医学院诊治，直至4月5日小痊出院。
1961年1月28日，台北“国家长期发展科学委员会”举行第五次全体委员会议，时台海危机已趋平缓，台岛内的科技经济在美国的大力援助、扶持下，已摆脱了战后阴影开始复苏，国民党对台湾的统治地位更加稳固。正是这诸多的缘由，胡适在致开幕词中兴致勃勃，充满乐观与信心地说道：“这是一个起点，一个有希望的起点。在这样艰难的情形之下，我们能够有一亿一千万台币用在‘长期发展科学与技术的研究’的开山工作上面，我们至少可以说科学已开始得到‘重视’，开始得到‘资助’了。我们当然不可感到满足，我们至少应该感觉我们的责任之大。我们应该感觉古人说的‘任重而道远’五个字的意义。”又说：“两年的工作，只做了一点探路的工作，开路的工作。从今天起，我们可以平心静气想想这条‘远路’的蓝图了。”这是胡适晚年精神最好，内心充满希望与梦想，体力也呈回光返照状最为充沛的时期。自此之后，便是“夕阳无限好，只是近黄昏”了。
这年的2月25日夜，胡适心脏病复发，急送台大医院救治。4月22日，病情好转并出院，迁居台北福州街26号台大招待所疗养，6月25日回到南港“中央研究院”上班。可惜好景不长，7月间又患急性肠炎，大闹水泻。9月3日，胡适在致好友李书华信中带有哀惋之情地说：“我是2月25日夜抬上汽车，抬进台大医院的急救处的。我在医院住了56天，出院后就在台北借房子住了两个月（因为南港附近没有医院）。到七月初又因肠炎，大闹水泻，泻的水分干了，影响心脏，血压低到74，半天上不去。……总之我们都老了，机件都不够完好了。”此时的胡适自觉已到了衰老不堪的岁月，说不定哪一天就悠忽登了鬼录，遂写信召在纽约的夫人江冬秀赴台。10月，江冬秀从美国抵达台北，一家人始得团聚，孤苦伶仃三年有半的老胡适精神上算是稍添一些慰藉。
就胡适当时的处境和心境而言，打牌名星江冬秀带来的慰藉，如同雪中的一点炭火，与茫茫雪原比起来仍十分微弱，胡适心中的大孤独与大悲凉仍不能融解消除，这种孤独与悲凉除了蒋氏政权施加的政治压力，还有一帮号称文化“斗士”和“新儒家”的人物，或明或暗地不断向胡氏掷出匕首、投枪加冷箭，企图对胡予以毁灭性打击。对于胡的处境和
“新儒家”的阴谋，时在台湾师范大学英语系任教的梁实秋曾经提及“誉之所至，谤亦随之。胡先生到台湾来，不久就出现了《胡适与国运》匿名小册（后来匿名者显露了真姓名），胡先生夷然处之，不予理会。胡先生兴奋的说，大陆上印出了三百万字清算胡适思想，言外之意《胡适与国运》太不成比例了。……胡先生决意来台定居，医生的意见也不能左右他，不欢迎他的人只好写写《胡适与国运》罢了。”书生出身的梁氏对胡的处境未免太过于乐观，既然对方剑锋已经出鞘，哪里有弄一点《胡适与国运》就善罢甘休的道理？大规模的反扑与打击很快接踵而至。
这年11月6日，进入衰朽之年的胡适应国际开发署之邀，强撑身体出席“亚东区科学教育会议”，在开幕式上作了《科学发展所需要的社会改革》英文演讲，此为胡适生前关于中西文化、科学比较的最后一次重要发言。主旨是颂扬西方的科技文明，批判中国的古老文化，其中说道：我们东方这些老文明中没有多少精神成分。一个文明容忍像妇女缠足那样惨无人道的习惯到一千多年之久，而差不多没有一声抗议，还有什么精神文明可说？一个文明容忍“种姓制度”（the
caste
system）到几千年之久，还有多大精神可说？一个文明把人生看做苦痛而不值得过的，把贫穷和行乞看做美德，把疾病看做天祸，又有什么精神价值可说？……现在正是我们东方人应当开始承认那些老文明中很少精神价值或完全没有精神价值的时候了。又说：“我相信，为了给科学的发展铺路，为了准备接受、欢迎近代的科学和技术的文明，我们东方人也许必须经过某种知识上的变化或革命。这种知识上的革命是有两方面。在消极方面，我们应当丢掉一个深深的生了根的偏见，那就是以为西方的物质的文明虽然无疑的占了先，我们东方人还可以凭我们优越的精神文明自傲。我们也许必须丢掉这种没有理由的自傲，必须学习承认东方文明中所含的精神成分实
藏海花
老九门
美人为馅
分手再说我爱你
赏金猎人
诡灵道士