培训团员中的骨干，一直是共青团十分重视的工作。在大革命和土地革命时期，团中央或地方团委就曾提出要办团校并开办过规模不同的团训班，团苏区中央局建立后，曾在瑞金开办过专门培训团干部的列宁团校。中央红军长征胜利到达陕北后，团中央恢复工作不久就于1936年八九月间在陕西省保安（今志丹）县开始筹办中央团校，并于9月开始培训团干部。当年10月，鲁迅逝世。为纪念鲁迅和适应建立抗日民族统一战线的要求，在11月7日举行开学典礼时，中央团校正式更名为鲁迅青年学校。该校由赖大超任校长，黄静波任副校长，揭俊勋负责军训和后勤。
在抗日战争时期，在中共中央青年工作委员会领导下，先于1937年10月以西北青年救国会的名义在陕西泾阳县开办了安吴青训班，后来由于国民党当局搞反共摩擦，青训班于1940年4月13日按中共中央电报通知撤回延安。在安吴青训班回撤延安前，中共中央为培训青年干部，于1940年1月在延安开始筹办泽东青年干部学校，并于当年3月开课。
1941年8月，泽东青年干部学校与陕北公学、中国女子大学合并为延安大学。1946年11月中共中央提议在各解放区试建青年团组织以后，便开始考虑培养建团骨干工作。1947年8－9月间，中共中央青年工作委员会在河北省建屏县（今属平山县）西柏坡村召开解放区青年工作会议。
会议闭幕时，中央青委书记冯文彬在题为《青年工作会议结论》的报告中说：“中央工委指示青委要办大规模的青运讲习所，最迟半年后请晋冀鲁豫、山东、晋绥、陕甘宁、晋察冀、冀热辽等地都送学生来”，这实际上是向会议传达了中共中央的办团校的要求。1948年6月，中共中央青委起草完成了《青年团干部训练学校教育计划（草案）》。
河北省平山县两河村中央团校旧址
中央团校第一期学员毕业证书
这个计划指出，办团校的目的是为了培养具有新思想、新作风的青年团干部，准备担任城乡的建团工作，为青年团建立坚实的基础。该计划还提出，本训练学校的筹备机构暂附设于华北局党校，并立即开始招生。这时，一些来自解放区的青年干部和平津地区的地下工作者相继来到华北党校所在地岗上村，中央青委在华北党校内开办了青年班，亦称华北党校六部，开始培训青年工作干部。
同年9月，华北党校六部独立出来，并迁到平山县两河村，中央团校第一期普通班也正式开学。正式成立的中央团校由冯文彬任校长，荣高棠任教育长，张凡和宋养初任副教育长，李梦华和冯铭任组教科长。中央团校第一期学员共488人，他们分别来自解放区和平津地区地下党组织领导的青年组织。