妨碍民主党取胜的最大障碍是党内分裂。尽管在州一级和地方一级上，政治潮流对民主党有利。但是地区间的斗争和互相冲突的道德观却使党陷于分裂。党内分成了两大派：一派是城市中和在东北部的派系，多数是移民，他们反对禁酒，主要信奉犹太教，艾尔·史密斯就是该派的领袖。另一派主要在乡村及西部和南部，极力主张禁酒，多数属新教徒。这一派基本上沿袭着布莱恩的思想特色，其改革目标开始超越经济和政治范畴而致力于谋求拯救或保全昔日农业美国的社会准则和传统美德，并使这些准则不受与城市化结伴而生的城市腐败——城市政治结构、沙龙、罗马天主教、犹太人的信条、没落的剧院和用外语演唱的歌剧、坦慕尼协会和黑手、贩卖违禁酒、不健康书刊、宗教的现代主义、街头色情的污染。罗斯福的故友威廉·麦卡杜成了该派的领袖。这两派在宗教信仰、政治主张等方面都存在着严重的分歧，这些分歧继“红色恐慌”之后席卷全国的种族及宗教偏见而加深了。这种偏见以“圣经”原教旨主义、反天主教和反犹太人为基础，它使美国乡村地区的人更加害怕城里移民们的政治和文化的统治。这种紧张局势使得被人们理所当然地废弃了的三K党死灰复燃，杀气腾腾地充当了一股一意孤行的逆流的急先锋。他们反对犹太人，反对黑人，反对天主教徒，除了神话般的所谓美国人，他们无所不反。到了1924年，这个无形的帝国已经超出南方范围，在俄勒冈、加利福尼亚、俄克拉荷马、堪萨斯、印第安纳州，都是一股很大的政治力量。
艾尔·史密斯这时出来竞选就成了人们发泄这些怒气的对象。史密斯是个致力于长期目标的著名改革家。作为一个爱尔兰和意大利移民的儿子，自幼在纽约市曼哈顿南区长大，是罗马天主教徒，主张废止禁酒的一切法案。他除了具有一套行之有效的行政管理手段外，因其改革侧重于注意实际的工时、工资、医疗卫生、货币情况以及城市日常问题，俨然成为城市平民的代表。但是在乡村选民眼里，他则代表着美国乡村人憎恨和害怕的一切东西。就连中间派也不愿把赌注押在一个罗马天主教徒、一个反对禁酒者身上。
罗斯福清醒地看到了这一切，在州长面临签署还是否决一项禁酒法案的尴尬处境时，罗斯福写信告诫他：“对于你在禁酒这个该死的老问题上陷入极其困难的境地，我感到非常遗憾。”他同时说出一个巧妙的策略，使史密斯可以既否决了这项提案，又不至于疏远了两方面的势力，然后再召开特别会议通过新的法律。史密斯拒绝了他的忠告，采取了更为直接更为诚实的行动。
豪也这样认为，他这样预言道：“几个主要的候选人都会一个个粉墨登场为自己拉选票，结果却只能表明他们连提名所需要的选票都捞不到，然后，他们会与几派头头们秘密协商，推出一个谁也猜不到，不为人知的什么人来。”
而罗斯福甚至连万一史密斯通不过时会提出的第二个人选都懒得去想。
事实证明豪的预言非常准确。
1924年6月24日，民主党全国代表大会召开。麦迪逊广场公园里热浪滚滚，乌云翻腾。在闷热的难以忍受的会议大厅里，酝酿着美国社会中各种偏见和敌意。危机不久就爆发了，大会常任主席、蒙大拿参议员托马斯·J·沃尔什刚宣布大会开幕，会议就在是否要点名谴责三K党的问题上分裂成两派。为了安抚乡村新教派，罗斯福敦促史密斯的追随者支持一项折中办法，谴责所有的秘密组织，但不具体点明。激烈的辩论时时被愤怒的谴责、辱骂和拳头所打断。最后，强硬派以一票之差败北，三K党没有被公开谴责。当最后宣布结果时，要不是纽约市一千名警察在场，说不定要闹出一场大规模骚乱来。
罗斯福每天都出现在会场上，他不愿让别人看到他坐轮椅进入会场，因此，在大多数代表到达之前，他就已拄着双拐坐在他的座子上了。16岁的詹姆斯·罗斯福每天为父亲来回传递消息，并在会场出现骚乱时守在旁边，免得他受伤。会议结束时，当别的代表都走完后，罗斯福被扶进他的轮椅，匆匆离开大厅。
在正常情况下，竞选组织者并不发表提名演说。但是，本来会提名史密斯的伯友·科克兰——坦慕尼协会的一位讲起话来口若悬河的演说家突然去世，史密斯试听了几位知名的民主党人的演说，想让他们来替代科克兰，都不够理想。最后，他请罗斯福来为他做提名演说，罗斯福接受了这一要求。尽管这时罗斯福已经作为一名出色的演说家而闻名全国了，他还是为这次演讲做了精心准备，因为他知道，这次提名演说对他的东山再起将是一次严峻的考验。
提名演说定于6月26日进行，这天早晨正好是代表大会期间惟一凉爽的一天。纽约州代表团座位在大厅中央，罗斯福坐在走道边的一个座位上。从他那儿，抬头能望见厅中的一切。
代表们围着他们各自的州旗，一排紧挨一排。白色栅栏后面是新闻记者，他们在劈劈啪啪地使用打字机。插着彩旗的包厢和楼座被人们挤得像上下班时的地下铁道。一浪高过一浪的宗教偏执情绪和仇恨心理把所有这些与会者的神经绷得越来越紧。
罗斯福担心的是怎样把这位乘坐轮椅的演说家安全地不引人注意地送进会场？怎样进到讲台后边？他那套在钢架里的双腿如何从轮椅上站起来？
16岁的长子詹姆斯勇敢地担当了这副重担。他扶父亲撑着丁字形拐杖站直，然后帮他插上支架的插销。两人缓缓地通过中间的通道。罗斯福到讲台时，台下雷鸣般地欢呼，连麦卡杜派的代表也站起来欢迎他。会场上闪光灯亮成一片。
他让宾西法尼亚的政治家乔·格菲去摇晃一下讲台，看看他靠上去讲台能否撑得住。格菲去了，讲台很结实。罗斯福这时松开了抓着儿子的那只手，拿起另一只拐杖，一步一步地挪向讲台。代表们屏住呼吸。他走到了讲台，把拐杖递给詹姆斯，站稳身体，两只手牢牢地抓住放讲稿的小台架。他抬起头来，站直身体，望了望射向主席台的耀眼灯光，胜利地微笑了。人群沸腾了，欢呼声延续了好几分钟。
他缓缓地开始了自1920年以来第一次重要的演讲。他巧妙地控制着演讲的节奏，从容自如，就像在一架巨大的钢琴上演奏一样。他呼吁大家团结起来：“我们这些代表，有的来自东部的大城市，有的来自西部的平原、丘陵地带，有的来自太平洋沿岸，也有的来自南方家园，我真诚地请求大家……首先要记住阿伯拉罕·林肯的话：对任何人都不怀恶意，对所有人都充满善意。”
接着罗斯福就开始谈论那个他相信能团结民主党、领导民主党向前的人：“我们团体中每个阶级、每个派别的人都对他无比热爱……由于他的深切的同情心和对人民的杰出的贡献，他的名字业已成为忠实的象征！”
他的演说驱散了会议大厅的乌烟瘴气，振奋了人们的精神和身体，没有仇恨的言语，没有恶毒的攻击，有的只是百分之百的诚意。大家都看到了这一点。连那些和史密斯势不两立的人也支持罗斯福。他那黑黝黝的脸上一双机灵的蓝眼睛以及眼中闪出的真诚的目光打动了他们的心弦。他那令人鼓舞的话语中抑扬顿挫的嗓音使他们的血液沸腾。他笑时，他们会情不自禁地跟着笑。
罗斯福知道，他已经赢得了观众的心。除了有人从座楼喊出几句附和声外，会场一片静寂。这是人们对他表示的一种少有的敬意。他的腿被支架夹得麻木了，他的手由于把全身重量都撑在桌上而不停地痉挛。但他全然不顾，他有的是力量，他那浑厚有力的声音在大厅里回荡。
“他被共和党看做洪水猛兽……当我们党的全国候选人由于少110万张票而落选时，他以差7．4万张票而失败，他比我多得了100万张选票，我在此向他致敬！”
对于这样高尚的姿态，人们高兴地喊了起来。
“我们的候选人具有英勇善战的领袖的品质……他是驰骋于政治疆场的‘快乐勇士’。
“这个人……受大家爱戴、大家的信任、大家的尊敬，这个人大家都承认能在今年为我们赢得巨大胜利，这个应运而生的人，我们州骄傲地把他奉献给我们的国家，我们自己的艾尔弗雷·E——”
姓名的最后一部分淹没在雷鸣般的欢呼声中。罗斯福在听众心里激起的汹涌澎湃的感情一下子进发出来了。欢呼声持续了很长时间。
第二天，所有报纸都以醒目标题报道：
东山再起的英雄，不管史密斯州长在大选中是否获胜，富兰克林·罗斯福在1924年民主党全国代表大会上都是一个真正的英雄。身体上的灾难使他超然于宗派偏见、宗教偏见、个人野心之上。这使他成了全国各派都敬仰的领导人。
豪和罗斯福互相对视，会心地微笑。
共和党和柯立芝不会继任总统，史密斯和其他竞选人注定要失败，只有罗斯福出了一个漂亮的风头，报纸竞相宣传。
沉默已久的萨拉夫人给儿子拍来祝贺电报，并向埃莉诺致意。埃莉诺感受着一种胜利的欢悦。
罗斯福与豪一个人讲演般地高声论述：“美国从建国以来的历史，就是一个进步主义与保守主义斗争的历史。从当前美国的实际来看，我推崇、敬仰杰斐逊，他的民主理想是美国的灵魂，但他的有些主张，政策性的东西需要修正，已不适合今天的国情。”
“你指的是哪一些？”
“杰斐逊当时过分重视各州的自主权。目前需要一个强有力的联盟政府，才能调整社会上出现的种种问题。例如对企业家的特权限制，对劳工间存在的问题，如何普遍关心公民的福利，提高大多数人的生活水平……只有解决这些问题才能抵制来自欧洲的‘红色风暴’。检查任何一种主义，只能看绝大多数人的利害得失。”
“你对‘红色风暴’怎么看？”
“新杰斐逊主义不可能触及‘红色风暴’。”
复出的罗斯福表现得无懈可击，特别是那精彩动人的演说获得了空前的成功，并因恰如其分地引用英国诗人华兹华斯的名句而被传颂为“快乐勇士演说”。马克·沙利文把这篇演说称为“高尚的言词”。沃尔特·李普曼说它是“杰出的、感人的”。而纽约的《世界报》则把它称为代表大会上惟一伟大的演说。这次演说使他成为公众的注意中心，民主党人几年后对它仍记忆犹新。也许罗斯福在使用“快乐勇士”这个词时是有意为自己画像，实际上也是这样，毫无疑问_的，表明他在帮助艾尔的过程中发展了自己的事业。
但是，无论什么样精彩的演说也难以挽救民主党的自杀。民主党的全国代表大会正如路易斯·豪所预料的那样陷入了僵局。在麦迪逊广场公园闷热的、烟雾腾腾的会场里，一轮又一轮的投票不断进行下去，终于可以清楚地看出，无论是集中在东部的，支持史密斯的势力，还是集中在南部和西部的支持麦卡杜的势力，都不能获得当选所需要的三分之二多数，双方都不肯放弃提名。投票直到第100轮仍未见分晓。当大会进行103轮投票时，西弗吉尼亚的约翰·W·戴维斯作为折中的候选人被提名。戴维斯是一个马鞍制造商的孙子，曾任驻英大使，被英王陛下称为“我所见过的最典型的绅士之一”。他属于相信民权的那类保守主义者，终生都是民主党人，而且是华尔街的一名著名律师。但他是一个平庸的妥协人物，既没有艾尔的色彩，又没有麦卡杜的威尔逊主义背景。会议代表们疲惫不堪，又匆匆选出副总统候选人然后便散会回家了。
这次提名毫无价值。由于电台首次报道了大会实况，这就使得大会上两派相互仇视、候选人之间的互相扯皮，以及他们属下的愚蠢行为家喻户晓，这对民主党所起的破坏作用远比卡尔文·柯立芝能起的作用大得多。在场的罗斯福明白正是代表大会本身和以其为象征并被其所扩大了的党内分裂宣判了民主党候选名单的死刑。正如一位明尼达州的代表给罗斯福的信中所言：“6月份在纽约，我们把自己打败了。”
果然，柯立芝以绝对优势赢得了这场大选的胜利，戴维斯得票的比例之低，创造了民主党历史上的新记录。
1924年民主党全国代表大会对于民主党来说是一种灾难，对于史密斯是一次挫折，但对于罗斯福，却是一次个人的胜利。他那雄辩的充满激情的演说，他那使人忘记了他的双拐的那种愉快的、骑士风度的派头，他对艾尔的耿耿忠心，再加上他对于其他派系所持的友好态度，都给民主党的普通党员留下了极深刻的印象。
罗斯福并没有因为民主党的这次惨败而气馁，他宣称：“我在1920年说过……在共和党使我们进入严重的经济衰退和失业时期以前，我觉得全国人民是不会再选民主党的，我现在还认为这种说法是正确的。因为尽管民主党是一个真诚进步的党，但人们在工资很高、市场繁荣的时候是不会抛弃共和党的。”
在随之而来的柯立芝时代，罗斯福开始把精力集中在使自己能行走上。他在朋友面前不能像平时那样高兴，有时把自己关在房间里一直待到中午或晚上。
