段德昌入党不久，即被党组织选派进入黄埔军校，编在入伍生团，接受军事教育。学习期间，正值黄埔军校戴季陶主义反动思想泛滥，国民党右派成立了“孙文主义学会”，打着革命的幌子，干着打击共产党、分裂国共合作的勾当。在蒋介石的纵容和怂恿下，“孙文主义学会”分子经常找共产党员惹是生非，寻衅肇祸。以共产党员和青年团员为骨干的中国青年军人联合会（简称“青军会”）与之进行了针锋相对的尖锐斗争。段德昌是“青军会”的重要成员，他锋芒逼人，经常无情揭露“孙文主义学会”头目们违背孙中山三大政策和破坏国共合作统一战线的阴谋活动。
1926年3月，“中山舰事件”发生，段德昌便建议和鼓动“青军会”的一名成员写公开信，痛斥蒋介石：“你脱离了革命，正在一日甚一日地变为军阀，如果我们从前把你当作孙中山博士的拥护者和学生，跟着你走。那么，你要知道，当你背叛人民那天，我们将毫不手软地把你打倒！”段德昌把公开信印成传单，在校内到处散发。很快，公开信转到了蒋介石手中，蒋介石看罢恼羞成怒，拍案而起，吼到：“娘希匹，反了反了！真是胆大妄为，侮辱到本校长头上，一定要严惩不贷！”于是下令逮捕写信者，开除了段德昌。后经周恩来推荐，段德昌转入毛泽东、李富春主持的“中国国民党中央政治讲习班”学习。1926年6月，毕业后参加了北伐战争。