1916年秋，高语罕经留日同学刘希平推荐，到安徽省立五中任国文教员。别的教员下了课便与学生没有了关系，而他没事便在自修室里和学生们谈社会、谈国家、谈文学、谈哲学、谈读书方法。由于高语罕在学生中有崇高的威信，第二学期开始便兼任学监。

此时高语罕自律既严，对学生要求也很严格。比如，规定学生不准留分头，不准穿缎子鞋，不准抽烟，不准上街看戏等；革除国文、伦理、修身课中的陈腐内容，加进以《新青年》等进步刊物宣传的新思想、新文化。

高语罕还热心帮助学生组织各种团体，如图书馆、游艺室、社敬团、义务学校等等。1917年秋，他和刘希平本着民主自由的原则组织学生自治会，让学生参与学校管理。这是安徽第一个学生自治会，主要任务是管理学校经济，评论教师讲课能力，审查学校财务，监督厨房买菜，管理学校卫生等。

为了使工人受到教育，1917年下半年，他和刘希平又创办了“义务学校”和“工读学校”。学校男女都收，对象是人力车夫、纱厂工人等。后来，他又自筹资金，创办了两所商业夜校，主要招收各商店店员、学徒及其子弟。

他的这些学生对于后来的国民革命有相当贡献，如叶挺独立团营长曹渊、孙一中等烈士都是工读学校的学生。芜湖工读学校的创建在社会上引起了强烈的反响，当时上海《民国日报》副刊《觉悟》发表文章称芜湖工读学校“在芜湖是一个年龄最轻、活泼可爱的孩子，他的前途希望很大”。

1919年5月5日，北京爆发五四运动的消息由电报传到芜湖《皖江日报》社。副刊编辑郝耕仁立即托社长谭明卿之子、省立五中学生谭邦杰将这份电报送给高语罕。他立刻喊起还在睡梦中的学生：“要响应北京运动，光一个学校不行，今天你们到各校联系。”

5月6日，芜湖学生联合会在芜湖西门詹家巷召开，决定在5月7日袁世凯与日本签订二十一条的国耻日举行大示威。高语罕当场起草宣言，几千字的宣言不到二十分钟一挥而就。

二女师学监姚慎思反对学生运动，他说身为女校学监，女子与男生在一起开会、游行，有违男女授受不亲之古训。话音刚落，高语罕猛地站了起来，捋了捋袖子，用拳头击桌，模仿他的腔调：

“国家兴亡，匹夫有责。男生爱国，女生也是国民，也应该爱国，为什么男女不能同时示威游行？若说男女不能在一起，请问姚先生，你是男是女，你年纪也不大，胡子也不太长，你为什么和女生天天在一起，岂不要避嫌！请姚先生慎思、慎思、再慎思！”

话音刚落，男女生均鼓掌：“请姚学监慎思、慎思、再慎思！”在一片掌声与笑声中，姚慎思灰溜溜地离开会场。当天晚上，省立五中、二农、二女师、萃文中学、圣雅阁中学、芜关中学全体学生联名发出三个通电，要求立即释放被捕学生，力争青岛。

稍后，高语罕又在各校师生和各界人士代表大会上草拟力争山东交涉和抵制日货、提倡国货的电稿。芜湖革命风潮日盛一日，抵制日货的运动迅速发展。抵制日货在芜湖最得力的是商业夜校的学生，他们分散在各店，知道哪个商店进日货、卖日货，一有消息就报告高语罕，他再告诉学联。学生晚上就出动二三百人的检查团，查出日货就送到十三道门烧掉。

在学生运动的影响下，芜湖群众冲击日商药房。随后，全市商人举行罢市，工人举行罢工，壮大了五四运动的声势。上海《申报》、《新闻报》逐日刊载芜湖学潮消息，作为安徽省学生运动的缩影通报海内外。

经过五四运动这次大风暴的洗礼，中国人民的思想得到了极大的解放。一些先进的知识分子转向更深层次的探索，并且和一些志同道合的伙伴聚集在一起，结成研究社会主义的团体，这就使马克思主义终于成为新思潮中的主流。