郑荃荪字养源，赞丞之弟，霍邱城关人。安徽讲武学堂肄业。清光绪三十四年（公元1908年），参加熊成基领导的马炮营起义被捕入狱。保释后随兄郑赞丞赴广州参加黄花岗起义。失败返皖。同张孟介等组织淮上讨袁军，苦战月余，后遭夏永伦等袭击，兵败，乃东渡日本。不久又奉命回国。
民国7年（1918），陈炯明率粤军攻闽，郑荃荪任国民党机关总部参谋，留守上杭。时各地叛乱，郑集合钟大辉等各地民军，自任指挥，竭力防御，困守孤城达27日之久，后转危为安。民国11年（1922），随民军入赣，在李家山、砂石铺、茅店、赣州诸战役中身先士卒，功冠全军。陈炯明叛变，又随军回师征讨。在火山大桥、周田等地，血肉相搏十余昼夜，因弹尽粮绝，军威受挫。郑荃荪亲率部300余人奋力拼杀，使全军脱险，为后来克闽成功立下大功。广东东路军成立，郑荃荪任参议。