1925年12月，高语罕在上海大学任教一段时间后即赶到广州，参与国民党“二大”的会务准备工作，同汪精卫、邵力子一起起草国民党“二大”宣言。在大会上，高语罕同张静江、邓泽如、古应芬、陈璧君一起当选为国民党中央监察委员会常委。

1926年1月8日，邓演达被任命为黄埔军校（即中央军事政治学校）教育长。1月19日，参加完国民党“二大”后的高语罕也来到黄埔军校任政治主任教官，成为黄埔军校第一位政治教官，同时兼入伍生部少将党代表。

高语罕为人十分和蔼，遇到接近他的人，往往都是他先打招呼。很多青年学生过去读过他的《白话书信》，再加上他口若悬河，讲得通俗、风趣，因而受到大家的普遍敬重。

在讲授政治学概论时，高语罕仍提倡白话文。有一次他在课堂上说：“同学们都是风华正茂的青年，也有百分之七八十都是没有对象的未婚者，以我在学生时代的经验，用文言文写爱情信，不如用白话文写爱情信，这是最能表达内心情感的，诸位努力写吧！”

同时作为中央监察委员，高语罕直爽、尽职。有一次开会，***吩咐桌子上要摆些精致的点心。高语罕走近细看，原来盛点心的盘子都是用草编的，上面有红花、绿花，中间五彩的花朵不是染的，却是用有颜色的草编的，手艺精巧。高语罕脸色一板，放开喉咙冲着***说，开会又不是请客，何必如此浪费。***本想借此笼络在军校工作的共产党员，可是高语罕竟当面批评他奢侈浪费，不像革命党人的作风，气得两颊红一块紫一块，一甩门走开了。

3月19日，国民党召开第13次中央常委会，批准***任第六届农民运动讲习所所长，萧楚女为教务主任，高语罕为政治训练主任。3月20日，***借口“中山舰事件”罢免了高语罕的政治主任教官职务，由恽代英接任。

稍后，广州召开反段祺瑞大会，高语罕受国民党中央秘书长林伯渠指派，在大会上发言：“现在袁世凯虽死，而产生袁世凯的社会制度并未消除，将来会有第二个、第三个袁世凯继之而起，以至于生生不已。今天大家开会，反对段祺瑞，我依然要做这种分析。所以我们不但要打倒北洋军阀段祺瑞，并且要打倒产生北洋军阀的社会制度。”

次日，高语罕的话刊登出来：“我们不但要打倒北洋军阀段祺瑞，并且要打倒南方的段祺瑞！”***见了报，遂下令驱逐高语罕出广州。

高语罕离开黄埔军校时，恰响起了夜深休息的军号，勾起了他的旧愁新感，感触万端，写了两首绝句。其一是：“离骚读罢听悲笳，入夜江声走万蛇。曾住此间三月暮，而今一水是天涯。”

5月25日，***散发《校长宴会全体代表训话对中山舰案有关系的经过之事实》的小册子，指斥高语罕、恽代英、邓演达、张治中为“黄埔四凶”。

同日，高语罕在上海发表《一封公开信——致***先生》：“老子娘生下我来，就是这副骨头！性子戆直，心直口快，但是我却有一个好处：晓得一个人，尤其是一个革命党人，若是自己不能受人批评，不能公开的承认自己的过失，甚至还去文过饰非，那便是自绝他的政治生命。”

7月9日，广东国民政府誓师北伐。10月，担任攻武昌城的叶挺独立团一营营长、高语罕工读学校的学生曹渊牺牲，高语罕的另一个学生孙一中接任营长，攻下武昌城。

此时，邓演达任北伐总司令武汉行营主任，张治中任中央军事政治学校武汉分校教育长，二人邀请高语罕到武汉。高语罕遂到武汉创办了安徽省党务干部训练班，介绍阿英（钱杏邨）、王坦甫、朱蕴山等加入了中国共产党，同时兼任中央军事政治学校武汉分校政治教官，出版了《白话书信二集》和《现代的公民》（《公民常识》）。