共青团跟随共产党在土地革命中奋斗：大革命失败以后，中国共产党人没有被国民党的血腥屠杀和白色恐怖所吓倒，在黑暗中高举革命的旗帜，开始了新的战斗。在中国共产党领导中国革命开展创建工农武装，开辟农村革命根据地的斗争时，共青团始终跟随党战斗在最前线。各地共青团组织积极发动团员、青年参加党领导的武装起义和创建农村革命根据地的工作。随着革命根据地的创建和发展，使共青团工作又开辟出了一片新天地。
大革命失败后的形势表明，中国共产党要领导中国人民继续进行革命斗争，必须直接反抗国民党政府的反动统治，因此在1927年7月中旬，中共中央临时政治局常委会毅然决定领导工农民众发动武装起义，用武装的革命反对武装的反革命。1927年8月1日，在中共前敌委员会书记周恩来和贺龙、叶挺、朱德、刘伯承等人的领导下，由共产党掌握或影响下的北伐军2万多人在南昌举行武装起义，打响了武装反抗国民党反动派的第一枪，开始了中国共产党独立领导武装斗争和创建人民革命军队的新时期。南昌起义后不久，在1927年8月7日，中共中央在湖北汉口秘密召开紧急会议（八七会议）。会议只开了一天。这次会议总结大革命失败的教训，批判和纠正了大革命后期的陈独秀右倾机会主义错误，确定了土地革命和武装起义的新方针，并选出以瞿秋白为首的中央临时政治局。共青团中央总书记任弼时及团中央委员李子芬、杨善南、陆定一作为团中央代表出席了这次会议。八七会议给正处在思想混乱和组织涣散中的各级党组织指明了出路，为挽救党和革命作出了巨大贡献，从而开始了中国革命从大革命失败到土地革命战争兴起的历史性转变。8月12日，为贯彻党的八七会议精神，共青团在武汉召开了驻武汉全体中央委员会议（史称“汉全会议”）。这次会议主要任务是传达党的八七会议精神和研究共青团“今后新的工作方针”。
为了总结大革命失败以来的经验教训，确定党的路线、中国革命任务和解决党所面临的一些主要问题，1928年6月18日～7月11日，中国共产党在苏联莫斯科举行第六次全国代表大会。在中共六大召开前，团中央决定在中共六大闭幕后召开一次团中央扩大会议。为此，团中央总书记任弼时专门写报告请示中共中央：“因为党的大会后，事实上团在国内无召集代表大会的可能，因此各省都决定由团派人出席党(代表)大会，以便党大会之后，团能召集比较完满之扩大会议。”中共中央批准了团中央的这个要求，各省共青团组织便根据这个精神选派了出席中共六大和出席团的扩大会议的代表。
中共六大一闭幕，团中央又向党中央和青年共产国际请求在莫斯科召开团的第五次全国代表大会，因为原定出席团的扩大会议的代表分别来自国内12个省的共青团组织，只有少数省的团组织的代表没到莫斯科，召开团的全国代表大会的条件已经具备。青年共产国际和中共中央经研究批准了团中央的这个请求，于是中国共青团第五次全国代表大会便于1928年7月12日～16日在苏联莫斯科召开了。这次大会系统总结了团四大以来的工作和经验教训，充分肯定了共青团在大革命失败以后的工作。大会根据中共六大对中国形势的估计和分析，认为团的基本任务应该是把广大的劳动青年团结在党的周围，进一步发动他们参加民主革命，协助党建立红军，建立农村革命根据地。大会根据中共六大的路线、方针制定和通过了政治任务、组织问题，农村青年工作，教育宣传工作，儿童运动等项决议案，还修改了《团章》和制定了革命根据地内团的《工作大纲》和军事工作决议案。
中共六大以后，根据党中央1928年5月25日的决定，各革命根据地的工农武装部队都一律改称为红军，同时加强了工农武装部队的建设工作。与此同时，红军中共青团工作也逐渐得到重视和加强，到1930年11月，在军以上政治部设立了青年部，师以下单位设立了团委，从而形成了共青团在红军内部比较完整的系统领导。
革命根据地在当时被统称为“苏区”。苏区的扩大和土地革命的开展，使团的工作也得到快速发展，至1931年12月，各苏区普遍建立和健全了少共省委、特委、县委以及区、乡、村等各级组织，苏区团员队伍也在不断发展壮大，团员数量已达到10万人。
1932年1月15日～20日，共青团苏区第一次代表大会在瑞金召开，出席会议的各方面代表有200余人。苏区党组织对这次会议非常关心和重视。会议开幕时，中共苏区中央局代表毛泽东、中华苏维埃共和国临时中央政府代表项英、红军总司令朱德等出席了会议并致辞。经过团苏区代表大会少共苏区中央局正式成立，由顾作霖任书记。1933年1月，设在上海的共青团中央机关迁入江西瑞金，与少共苏区中央局会合后便合署办公，对外改称少共中央局（亦称共青团中央局），仍由顾作霖任书记，机关驻地后来从叶坪庙背村迁到沙洲坝上下肖村。
1933年下半年，蒋介石调集100万军队向中央根据地和其他根据地发动第五次大规模“围剿”，由于以博古为首的临时中央全面推行“左”倾冒险主义的错误主张，导致红一方面军第五次反“围剿”的失败，红军主力于1934年10月被迫开始长征。长征时，根据地的共青团组织在中共中央的统一安排下，多数团干部被分配到各军、师、团政治部做民运工作，积极协助党在长征途中做思想政治工作和宣传鼓动工作，特别是在遵义会议后，在党中央和毛泽东的领导下，广大团员青年发扬“万水千山只等闲”的革命英雄主义精神，英勇奋战，斩关夺隘，爬雪山，过草地，冲破敌人的围追堵截，胜利地完成了伟大的战略转移。红军主力长征后，留在长江南北的一部分红军和游击队，在项英、陈毅等的领导下，紧密依靠人民群众，在8个省的15个地区独立坚持了3年之久的游击战争。在这3年艰苦卓绝的游击战争中，8省15个地区的不少团组织在当地党组织的领导下，带领团员青年与其他红军战士和游击队员一道，在被敌人分别封锁的极端艰难的条件下，克服重重困难，顽强坚持斗争，保存了自己的力量和阵地，如湘鄂赣苏区，在3年游击战争结束时，还保存下了近500名党团骨干和近400名战士，为中国革命作出了重要贡献。此外，该苏区的少共湘鄂赣省委及其所辖的赣北工委，东南特委和东北特委在3年游击战争中也一直坚持下来，直到抗日战争初期的国共合作。
中国共青团始终同共产党一道，凭着对崇高革命理想的坚定信仰，百折不挠的革命意志和不怕牺牲的斗争精神，勇敢探索，顽强奋斗，克服各种困难，战胜“左”倾错误的干扰，把中国人民革命事业引向胜利的征程。在这悲壮而又激越的斗争岁月里，中国共青团经受住了中国革命曲折发展道路上的考验，积累了丰富的斗争经验,获得了一笔十分宝贵的精神财富。