高义，原名高大扁，字子馥。清光绪五年(1879)出生于台北大龙峒。祖籍福建安溪县新康里大坪乡(今大坪乡大坪村)。其曾祖高生于清道光年间迁居台北，世代务农。高义3岁丧父，9岁失母，孤单一人，又眇一目，只好当童工糊口。及长，身材魁伟，膂力过人，留有八字胡。讲义气，重然诺，好打抱不平。
光绪二十一年(1895)，中日《马关条约》签订，清政府把台、澎割让给日本，引发台湾民众的激烈反抗。高义、赖乾、简大狮等闻讯揭竿而起，组织义勇军，投入抗击日本占领军的行列。经数年血战，大小战斗上百次，牺牲很大，但也给敌人以很大杀伤。由于后援不继，饷械俱缺，处境非常困难。二十六年，高义、赖乾、简大狮等人不得不抢船内渡，暂避漳州，等待时机东渡，参与收复台湾。漳州知府曹本璋视高义等为浪民，在日本人的胁逼下，派役搜捕。简大狮不幸被捕，解往厦门，交日本驻厦领事馆转送台湾给日本占领军斩首。高义对清政府丧权媚外十分气愤。为了生存，高义偕同赖乾、陈瑞阳、周廷、周甚、卢海等返回安溪。四月间在安溪、长泰交界处的湖珠东磜土楼竖旗造反，宣称“反官不反民”。第一次在温仔岭抢劫一侨客，搜出白银三千元，他们只拿其中一千元，声称借作活动经费，人和余款放行。
三十一年，高义的队伍已扩大到一百多人，影响及于安溪、长泰、华安、漳平4县。地方当局对之无能为力。时安溪知县谢金元报准招抚，轻车简从，登门劝其投诚，取得一官半职，然后待机收复台湾，高义为其所动，接受招抚，由谢金元引见提督孙道仁。孙道仁对高义的抗日事迹深为嘉许，派他在麾下任卫队长，并改名为高义。
辛亥革命后，高义与革命党合作，光复泉属各县。他勇敢善战，由队长积功递升营长、团长、旅长。民国7年(1918)，闽督李厚基整顿民军，仍任高义为旅长，坐镇泉州。11年，陈炯明在粤叛变，许崇智奉命率入赣北伐之师，绕道闽省回粤讨贼。镇守闽北与闽南之王永泉与臧致平两军乘机驱逐李厚基。李部不支，李潜逃赴沪，败兵近5000人，集泉州依附师长张清汝。张清汝见大势已去，人枪悉委高义。高义给予收编安置，粮饷由地方和民众分担，地方不受骚扰，人心稍安。高义被众拥为保安司令，拥兵万余，驻防泉州，统辖8县。高义驻泉多年，严饬所部保护地方，改善市政设施，支持交通建设，泉州至安海公路即在这阶段建成。地方绅士和民众称赞高义“貌似威武，实是谦和，是一条绿林好汉”。
13年，孙传芳入闽为督，把福建各地民军及杂牌部队进行改编，委高义为福建陆军第二师师长，仍驻防泉州。后周荫人接任闽督，为消灭异己，扩充地盘，即派二十四旅旅长孔昭同兼任兴、泉、永警备总司令，坐镇泉州。为了各个击破，逼令高义、杨汉烈、吴威三部围攻陈国辉。高义本不愿自相残杀，又以师长身份反受旅长节制，更加愤愤不平。然而，孔昭同强令发兵，又派其团长督战，高义勉强上阵，率所部向诗山进发。激战一个来月，陈国辉败窜安溪，转赴漳平。高义跟踪追至安溪漳平交界处，手下留情，就地收兵，给陈国辉部以喘息之机。孔昭同见陈国辉势力已削弱，遂对高部施加压力。同年12月下旬，高义因军饷无着，派部队于泉州附近的秀涂、陈埭等地截留税款，孔昭同严令撤退，高义不理。孔昭同因兵力单薄，未敢仓猝进击。遂电周萌人派四十八团火速到泉州增援。高义得悉后，突于某夜派兵袭击泉州汽车站，想控制汽车以断孔昭同部运输。孔昭同得报率部增援，高义部被击退。把师部先移驻南安诗山，兵力仍分驻泉州至南安一带。
14年夏，孔昭同部署已毕，兵分三路向高义发起进攻。在此之前，陈国辉得杨学良之助，重整旗鼓，并受编为福建陆军第八旅，攻进安溪县城。对高义部虎视耽耽，欲报一箭之仇。永春吴威受编为第六旅，想讨好周萌人。陈国辉、吴威料定高义必败，均向孔昭同表示愿率部堵击。开战后，高义部第三旅吴大洪(驻南安)宣告脱离。至此，高义四面受敌，陷入重围。好在高义平时待人仁厚，吴大洪竟演一出“华容道”，虚晃一枪，让高义轻易溜过，不致全军覆没。然而，高义据地尽失，残部退守内安溪，他只身逃亡厦门，等待时机，重整旧部。
15年10月，国民革命军第一路总指挥何应钦率军入闽北伐。高义见时机已到，于是游说全闽民军为内应，内外夹攻，使周荫人、张毅部十多万众全部溃败。何应钦率部长驱直入，12月上旬，即进占福州。
16年春，全闽民军集中福州，整编为国民革命军新编第一军，谭曙卿任军长，高义为第一师副师长兼独立第一旅旅长，旋任师长，委为少将参议。所部驻防福州。是时闽赣边境常有事故发生，高义即派属下李玉树团前往镇慑，使何应钦得以顺利挥军入浙。同年10月3日，十一军蒋光鼐、蔡廷锴率师回粤，取道福州。新编军对蔡廷锴师入福州应取何种态度议而未决，10月10月蔡廷锴师进抵福州城外，13日中午12时向新编军进行攻击，下午3时新编军被缴械，各部溃散，谭曙卿不知所往。时高义适在南台，闻讯后便带领部分队伍南撤至泉州。后各将领协议组成新编第一军军事委员会，由高义代行军长职务。并派代表赴南京告状。南京政府对新编军之遭遇，只提“相忍为国”，令谭曙卿“力加劝导”，另调四十九师师长张贞回闽南坐镇。至于新编军遭缴械事件，则不了了之。新编军残余部队或则改编，或则遣散，或则为寇。高义亦卸职旅居泉、厦，过着寓公生活，眷属则移回安溪大坪老家。
抗日战争爆发后，高义回大坪老家居住，每月拿取少将参议薪饷240元。由于法币贬值，只够个人生活费，全靠耕田种地，维持一家人的清苦生活。高-甲归田后，闽南绥署主任蒋鼎文很了解他，待他很客气，称他为老前辈，有时特邀他谈天说地。旅长钱东亮在泉州组织闽南抗敌自卫队，也想借他的声望，邀他赴会。钱当时大力捕杀汉奸，有很多台湾人被嫌疑而遭杀。高义是在台湾生长的，很多人怕他被戴上那顶帽子，死得不明不白，劝他要慎重考虑。高义认为：“汉奸必有罪嫌，不至无故被诬，长官召集开会，畏祸规避，嫌疑更大”，慨然应召。到泉州后，钱东亮特别召见，请他以退休军人身份，帮助组织民众武力，充实抗敌自卫力量。并提请他注意土匪叶文龙、高塔的行动。临行，钱东亮还送他一笔旅费。
30年，高义卧病在床，其在台出生的儿子高魁俊曾回家探望。高魁俊不务正业，-、抽大烟，一向在漳属各县流浪，高义本极气愤。这次见面，病中的高义余愤未消，随手抓起一把铁锯狠狠掷去，魁俊面部受伤，鲜血直淌，狼狈逃去。不久，高魁俊被漳州驻军枪毙，罪状是汉奸。高义闻讯后，只说：“希望罪状不确实，如果真是汉奸，那是死有余辜，而且对我也太玷辱了。”
民国31年，农历12月初7日，高义终因病重谢世。弥留之际，有“不见台湾收复，深以为憾”之言。