黄光升，字明举，号葵峰，泉州人，秉性好学。明嘉靖七年(1528年)中举人，嘉靖八年中进士。授浙江长兴知县。因“贤声蔚著”，被调入朝廷任刑部给事中。后因母亲去世回家守制，服满后，补兵部。因两次得罪当政夏言，被逐出朝廷，任浙江佥事三年，又进参议。后调任广东副使，转任四川参政，广东按察使，四川布政使等。
在浙江任上，他筑海塘、治湖蓄水，疏浚山阴(今绍兴县)、会稽(今绍兴县)、萧山、诸暨四县的水利工程；提倡兴学，奖励知识分子，编写县志，政绩显著。
广东沿海民众，挟舸入海和夷人互市，时遇抢掠。黄光升到广东后，设立稽查，核验册籍，逮捕寇贼，使其从此不再为患。由于不法官吏侵剥，“夷市”课税入库只有十分之一，黄光升进行整治，秋毫不染，征收“夷税”十减其六，而课入库银却加倍增长。安南(越南)内部莫正中与莫宏瀷兄弟争位，莫正中逃来广东避难。而安南大臣范子仪借口迎还莫正中，率兵攻掠钦、廉二州(今广西壮族自治区钦州县和合浦、灵山等县地)。总督欧阳必进命黄光升速调东莞、新会二县守兵，授俞大猷作战方略，伏兵海岛，大败范氏。随后，莫宏瀷斩范子仪首级来献，纳贡如前。黄光升又讨平连崖黎民的叛乱和新会陈文伯的剽掠。为长久之计，黄光升编定广东全省瑶民的册籍，因此进官副都御史，督抚四川省。
黄光升在四川担任参政、布政使期间，上疏请求停止采办丹砂、麸金，每年可节省水陆邮费数十万金，减轻百姓负担。世宗笃信方士，约于嘉靖二十一至二十二年营造大享殿、大高元殿等三殿，急需巨木，而四川无巨木可采。黄光升“度郡邑大小，地里远近”，使各地合理负担。还命位尊望高的官吏向当地夷民购买，转运之费，暂时向其他省份借支，做到不加赋而顺利完成巨木的采供任务，受到世宗嘉奖，拜为兵部侍郎，总制湖北、四川、贵州三省。因讨平苗民叛乱和招回流民600户有功，被召入工部，不久升任南京户部尚书。
嘉靖三十九年，南京振武营因裁减军饷变乱，黄光升一面疏请恢复军饷原额，一面责成有司查核，使“库藏为之一清”。因此，黄光升被召入北京任刑部尚书。
黄光升在刑部任内，亲自审理三大案件：一是审理蓟辽总督杨选因“失城守”坐死罪，特旨杨妻流放2000里。二是嘉靖四十四年，世宗诏令逮捕严世蕃、罗龙文下狱，并令刑部尚书黄光升、左都御史张永明、大理寺卿张守直审理。黄光升查明严世蕃、罗龙文与海寇汪直勾结，聚集亡命之徒，南通倭、北通虏，准备叛乱，赶紧上奏。严世蕃、罗龙文被处死，严嵩家产被籍没。三是嘉靖四十五年，户部主事海瑞买棺材，别妻子，散童仆，以死上疏，劝说世宗不要相信陶仲文这班方士的骗术，应振理朝政，因而激怒世宗，诏命下狱论死。徐阶力救海瑞，黄光升则把海瑞上疏比拟儿子骂父，以减轻罪责，乘机把海瑞留在狱中，直至同年十二月世宗驾崩，奏请穆宗释放海瑞出狱。
给事中沈束因向世宗进言，触犯“龙颜”，被囚系诏狱达16年之久。黄光升上疏乞求从宽处理。突然下旨释放沈束为庶民。廷臣议论纷纷，黄光升有难言苦衷，屡次向徐阶表示辞归之意。徐阶一再挽留。后来，徐阶辞相，黄光升也趁机辞归。四年后，黄光升被起任南京刑部尚书。他力辞不准，只好勉强赴任。不久被高拱嗾使下属论劾，就此回归故里。
黄光升归家后，闭门自重。晚年著书立说，有《四书纪闻》、《读易私记》、《读书愚管》、《读诗蠡测》、《春秋本义》、《历代纪要》、《昭代典则》、《陶诗注解》、《杜诗注解》等数百卷。
黄光升81岁去世，赠太子少保，谥号恭肃。