吴罡同志1936年加入中国共产党。
抗日战争时期，他历任中共枣强县委组织部部长、县委书记，中共冀南第五地委委员兼枣强县委书记，中共冀南第二地委组织部部长兼故城县委书记等职，参加了反“扫荡”等。
1947年，被选调参军后，他历任旅政治委员、军分区副政治委员、桐柏地委书记兼三分区政治委员、师政治委员等职，参加了楚旺、崔桥、安阳、邓县、豫西南剿匪等战役战斗。
1950年，调入海军工作后，他历任中南军区海军政治部主任、干部部部长，海军政治干部学校政治委员、海军指挥学校政治委员、海军政治学校政治委员、海军学院副政治委员等职，为部队革命化、现代化、正规化建设作出了贡献。
吴罡1955年被授予大校军衔，1961年晋升为少将军衔。曾获一级解放勋章、一级红星功勋荣誉章。是第六届全国人民代表大会代表。
2011年4月14日15时38分因病医治无效，在北京逝世，享年94岁。