1926年秋，段德昌调任第八军一师政治部秘书长，不久升任政治部主任，此间认识了时任国民革命军第八军一师一团一营营长的彭德怀。段德昌发现彭德怀勇武刚直、不贪不赌，在青年军官中特立独行，所带的一营在第一师中战斗力最强。而彭德怀也十分钦佩部队中的共产党员作战勇敢，对身为共产党员的段德昌另眼相看。通过接触，段德昌发现，彭德怀对国家兴亡、人民疾苦很关心，是一个有理想有追求的人，于是便送了一些进步书刊给他，还介绍他读《唯物史观》《共产主义ABC》《通俗资本论》等。彭德怀如饥似渴地阅读这些进步书刊，思想也随着革命书籍的浸润慢慢发生了重大变化。

　　北伐军攻克武昌后，吴佩孚残部经当阳玉泉山溃退，彭德怀率部截击，段德昌同往。他们到达玉泉山时天色已晚，且敌人已经撤退，部队便就地宿营。玉泉山有座关帝庙，相传是关羽显圣处。当晚，两人在关帝庙内就宿，段德昌因势利导地指着关公神像问彭德怀有何感想。彭德怀答道：“关公是封建统治者的工具，现在还被统治阶级利用作工具，没意思。”段德昌追问：“要怎样才有意思？”彭德怀毫不犹豫地说：“为工人、农民服务才有意思。”段德昌把话题引开，转到国民革命问题上：“你认为国民革命的最终目的是什么？”彭德怀答：“现在不是每天都在喊着打倒帝国主义、军阀、贪官污吏、土豪劣绅，实行二五减租吗？我认为应当耕者有其田，而不应当停留在二五减租上。”段德昌说：“一个真正的革命者，也不应当停留在耕者有其田，而应当变生产资料私有制为公有制，由按劳分配发展为按需分配的共产主义制。共产党是按照这样的理想而奋斗的。俄国布尔什维克领导十月社会主义革命胜利后，已实行按劳分配，消灭阶级剥削。共产党的任务，就是要实现社会主义和共产主义，共产党员就是要为这样的理想社会而奋斗终生。”两人深谈近两个小时，这是彭德怀第一次较深入地接受无产阶级革命的启蒙教育，促成了他人生道路上的根本转折。彭德怀后来回忆说：“段同志同我谈话有好几次，但以这次最长，最有意义。”

　　马日事变后，彭德怀率部进驻南县，段德昌因伤在家养病。1927年10月，南华安特委派人同彭德怀接头，彭德怀说：“我同段德昌同志比较熟悉，他对我帮助很大，我同段谈过多次，请求他介绍我加入中国共产党。现在我还想见他，我要求加入共产党现在还是迫切的。”接头人说：“段德昌同志介绍你加入共产党，也是特委同志集体介绍的。现在已报省委，待批准后即正式入党。”几天后，在南县党组织的安排下，彭德怀见到了段德昌，段德昌向他谈了革命形势并勉励说：“这次轰轰烈烈的大革命失败了，蒋介石叛变了革命，革命处于低潮。但是中国共产党和革命人民是杀不尽的，是不会屈服的。”还告诉他南华安特委已通过了他加入中国共产党的请求。1928年4月，湖南省委批准彭德怀加入中国共产党。后来，彭德怀回忆说：“在七大以后，问到我入党介绍人时，我就说是段德昌。”