1920年11月间，北京共产党早期组织正式成立，天津北洋大学学生张太雷参加了这个组织。其后，受北京党的早期组织和李大钊的委派，张太雷开始在天津创建社会主义青年团的早期组织。不久，天津社会主义青年团在天津特别二区大马路（今天津市河北区建国道91号）的一间裁缝店楼上的一间屋子里正式成立。出席成立会的有张太雷，天津进步青年学生组织觉悟社社员谌小岑、胡维宪，还有北洋大学学生南如和京奉铁路局的两个青年职员，以及胡维宪在南开大学的同学陶某，共7人。
会议由张太雷主持，他首先报告了天津社会主义青年团成立的经过，然后宣读了由他起草的《天津社会主义青年团章程》。与会者就青年团的宗旨及实现宗旨的方法进行了讨论，最后通过了团的章程并选举张太雷为书记。
天津社会主义青年团旧址
张太雷起草的《天津社会主义青年团章程》的俄文翻译抄件
天津社会主义青年团成立后，重视学习与研究马克思主义，每周开会一次，讨论如何发展组织，交流彼此了解的社会主义运动的情况，研究如何深入群众的问题，还讨论一些理论问题。天津团还把上海共产党小组出版的《共产党》月刊和《共产党宣言》介绍给群众，把李大钊在《新青年》上发表的《我的马克思主义观》印成小册子在天津发行，影响很大。
天津团成立后，还派谌小岑到唐山与京奉铁路机厂工人邓培建立联系，进行革命宣传，开展工人运动。李大钊也曾派张国焘和这个团组织成员一起到唐山去找邓培了解唐山工人的情况，致力于马列主义宣传与工人运动的结合，以促进工人运动的发展。1921年1月，张太雷受中国共产党早期组织的委派，赴俄国伊尔库茨克代表中共参加共产国际远东书记处工作，加上初建的天津团缺乏经验，人员复杂，天津社会主义青年团的活动没有能继续下去。
中共一大召开后，在李大钊指导下，由于树德、安体诚出面，于1921年9月创建了天津工人工余补习学校。与此同时，中国劳动组合书记部天津支部在安幸生领导下也建立起来了，天津青年运动、工人运动渐趋活跃。
1922年3月12日，中共北方区委派党员到天津，在天津工人工余补习学校内建立了天津社会主义青年团。建团时明确指出这个团组织“为中国社会主义青年团之一部”。其性质，“为纯粹的康民尼斯特（即共产主义）”，其宗旨是“研究共产主义，实行社会改造”。天津社会主义青年团重建后，主要开展了工人运动、学生运动和妇女运动。
1922年5月，中国社会主义青年团第一次代表大会在广州举行，全国15个地方团组织的25名代表出席会议，天津社会主义青年团团员吕一鸣也出席了会议。