五四运动引起了中国思想界的空前变化，***、陈**、高语罕等一大批先进的知识分子开始宣传马克思主义，积极探索救中国的新道路。

1920年3月，共产国际代表魏经斯基来到北京，同***和张申府就中国的问题进行交谈，希望中国建立党的组织。***介绍他去上海见陈**。此后，上海、北京两地分头进行建党工作。

3月底，***在北京大学发起马克思学说研究会。在发起人及部分会员名单中就有高语罕的名字。原来，年前高语罕在安徽二农发动学潮，再次被辞退后随即北上，借以考察北洋政府的状况。

4月份，陈望道翻译的《共产党宣言》出版。高语罕此时正在撰写《白话书信》，大加介绍：“《共产党宣言》虽是前几十年马克思和***他们的理想，然而那时已确信必有见诸施行的一日。”

5月1日，上海、北京、广州劳动团体第一次庆祝劳动节。陈**在上海船务栈房工界联合会演讲“劳动者的觉悟”。同日出版的《新青年》劳动节纪念专号上也发表了高语罕的《芜湖劳动状况》。

7月初，陈**在筹备上海共产党组织时谈到：“上海小组将担负苏、皖、浙等省的组织发展。”张国焘回忆：“他自己则担任在南京、安庆、芜湖等地物色一些青年发起社会主义青年团的组织，他的老友著名学者高语罕那时正在安徽教书，是最先响应的人。”

8月，上海党组织建立了全国最早的社会主义青年团组织。9月下旬，社会主义青年团在明德里创办了青年学校（即外国语学社），实际上是社会主义青年团的机关所在地。高语罕推荐芜湖五中学生蒋光慈、吴葆萼和安庆法专学生韦素园入学。

10月，***和张申府介绍张国焘成为北京第三个共产党员。张申府回忆：“北京第一个发展了张国焘，后来又发展了高语罕、刘仁静、邓中夏、罗章龙等。”

1921年春天，在陈**、高语罕的推动和筹划下，蔡晓舟、韦素园等成立安庆社会主义青年团，这是当时全国17处地方团组织之一。

1922年2月，上海共产主义小组创办的平民女校在法租界南成都路辅德里成立，分高级班和低级班。高级班教员为：陈**教社会学，高语罕教语文，邵力子教古文，陈望道教作文，沈雁冰、沈泽民等教英文，李达教马克思主义理论；初级班中，柯**教算术。

陈**等都是义务兼课，不能按钟点来校，唯一住校的是高语罕。他当时一边授课，一边在青年学校补习外语等待出国。他上课时自编教材，所选内容都是适应新思潮、又合乎平民的，后来把这些教材整理为《国文作法》。

上海平民女校只开办了8个月，共招收30多位学员。其中，王一知成为施存统的夫人（后成为张太雷的夫人），钱希均成为毛泽民的夫人，王剑虹成为瞿秋白的夫人，丁玲成为著名的作家。高语罕的妹妹高玉英也是学员。

4月份，中国社会主义青年团第一次全国代表大会原定在上海召开。安徽团组织王逸龙特地给团临时中央负责人施存统写报告，推荐高语罕作为安徽代表出席大会：“四月上海大会，这里因人才、时间分配不开，实难专人前去。高语罕先生为吾乡健者，住在上海，想与诸君亦常有接洽，兹拟请其如期代表出席，建议表决，皆付以全权。”

后因广东革命环境比上海好，中国社会主义青年团第一次全国代表大会遂在5月5日马克思诞辰日，改在广州召开，高语罕因故未参加第一次代表大会。同年8月6日，高语罕赴德国留学，暂时告别了建党建团早期活动，直到1925年8月回国。