早年先后就读于私塾及沔城闺州学堂，后以教书为业。

1926年加入中同共产党。

1927年大革命失败后，带领农民自卫队在湖心芦苇里坚持斗争，曾袭击戴家场保全队，捕捉土劣彭显臣，后任中共沔阳县委委员兼沔南区委副书记。在戴家场秋收暴动中率先冲锋，消灭涂老五清乡团。沔阳县赤卫队建立，任大队长，旋在周河湾组织并指挥了猎户和渔民暴动，—夜之间横扫洪湖沿岸数十里，处决土劣、流氓10余人，捣毁清乡委员会、禁菸处和税收机构20余处。水上游击队成立，任队长，伺机打击团防、保全队和土劣流氓，致彼等纷纷叹道：“不怕枪弹子，就怕碰上彭鼻子(指彭国材)！”

1928年初，周逸群、贺龙到洪湖召开湘鄂边前委扩大会谊，彭拥护前委关于建立工农革命军、开展荆江两岸年关斗争决定。

同年4月，与贺闯率短枪队多次反击沔阳保卫团“清剿”。后因部队受挫，于12月转移周家湾与李恭熙、李铁青等重组游击队。

次年2月上旬，与王尚武领导游击队在楼口整编为特务队。

8月中旬，鄂四(洪湖)游击总队成立，彭为第三大队党代表，同时任沔监县苏维埃政府审判委员会委员长， 9月任湘鄂西联县政府军事部长兼赤卫总队队长，于第一、二次反“围剿”中率部配合红六军作战。

1931年6月任湘鄂西省军委委员，后任湘鄂西省苏维埃政府政治保卫局局长，1932年1月当选为湘鄂酉省委委员。“肃反”运动中，因抵制扩大化、拒绝逮捕万涛、柳克明等人而于8月被解除保卫局长职，并于同月下旬被杀害于洪湖中。

1957年，中华人民共和国国务院树立的“洪湖革命烈士纪念碑”上载有其名。