张玄素(？—664年），本名张朴，字玄素，蒲州虞乡(今山西省永济市虞乡镇）人。隋唐时期大臣。
张玄素初仕于隋朝，为景城县(今河北沧州市西景城）户曹。隋末天下大乱，群雄蜂起，活动于今河北地区的窦建德攻陷景城。将张玄素逮捕，准备杀死。这时城中有千余人请求代他而死，并对窦建德说：“此人清慎若是，今倘杀之，乃无天也。”窦建德听后命人给张玄素松绑，并封他为治书侍御史。但张玄素以隋臣自居，却封不受，后张玄素听说隋炀帝在江都被杀，才接受窦建德委任，为黄门侍郎。
唐灭窦建德，张玄素归唐，被授为景城都督录事参军。唐太宗李世民久闻张玄素的名字，即位后特召见张玄素，向他征询为政之道。张玄素认为隋亡的主要原因是君主亲理政务，而君主亲理玫务，口断十事，有五条错误即不好办。一日之中，君主不止断十件事，往往口理万机，这样日积月累错误就积存多了，而错误多了国家就要灭亡的。所以张玄素建议唐太宗要广用贤良，使各官吏奉职守法，并能安抚百姓，小心谨慎，就会成为一个尧舜也无法相比的君主。唐太宗很欣赏张玄素的这番议论，于是提升他为侍御史，不久又迁给事中。
贞观四年(630年），唐太宗下诏修洛阳宫，以备巡奉。张玄素闻讯上 书 谏奏，认为“阿房成，秦人散；章华就，楚众离；及乾阳毕功，隋人解体。”经过隋末大乱的严重破坏，百姓疮痍，如果此时修洛阳宫，袭亡隋之弊，就是不如隋炀帝。唐太宗对张玄素说：“卿谓我不如炀帝，何如桀、纣?”张玄素回答说“若此役不息，亦同归于乱耳。”唐太宗听后感叹说“吾思之不熟，乃至于是”，唐太宗对房玄龄说：“朕以洛阳土中，朝贡道均，意欲便民，故使营之。今玄素所言诚有理，宜即为之罢役。后日或以事至洛阳，虽露居亦无伤也。”唐太宗认为张玄素说的有道理，于是停止了修洛阳宫的劳役，还赏赐张玄素彩帛二百匹。
唐太宗因张玄素忠直，迁他为东宫(太子住东宫）少詹事兼右庶子，让他去辅佐太子。时太子李承乾游玩不学，张玄素任职东宫后即上 书 谏劝他。张玄素认为：“皇天无亲，惟德是辅，苟违天道．人神同弃。…’。慎终如始，犹惧渐衰，始尚不慎，终将安保!”但太子不纳，继续游玩如故。贞观十三年(639年），张玄素又上 书 谏劝太子，应该“学文以饰其表”，不可“骑射数游，酣歌戏玩，苟悦耳目，终秽心神。”太子又不纳。
唐太宗因张玄素对太子多次进谏，于是在贞观十四年(640年），加封他为银青光禄大夫，兼太子左庶子。但太子劣性不改，一度又游宴深宫，久不见宾客。张玄素又上 书 谏劝太子应以国事为重，引见宫臣，“广置群僚，以辅睿德。”张玄素一再进谏引起了太子的讨厌，于是派人暗杀他，使他几乎送命，但他并不引以为训，仍劝谏不止。太子不知改悔，恶行日盛，终于被唐太宗黜废。张玄素因是东宫官员被牵连免职。
贞观十八年(644年），张玄素被朝廷起用为潮州刺史，后又转迁邓州刺史。到唐高宗永徽年间(650--655年），他以年老致仕，龙朔三年(663年），加授银青光禄大夫。
麟德元年(664年），张玄素去世。
隋朝末年，以清廉著称，授景城户曹。为夏王窦建德所执，授治书侍御史和黄门侍郎。秦王李世民平定窦建德后，授予景城录事参军。唐太宗即位后，授侍御史，迁给事中，直言进谏，极言得失。迁太子少詹事，辅佐皇太子李承乾，多次劝谏。贞观十四年(640年），拜银青光禄大夫、太子左庶子，悉心教导。太子被废后，作为东宫官员，坐罪免职。贞观十八年(644年），迁潮邓二州刺史。
唐高宗即位，年老致仕，加授银青光禄大夫。麟德元年(664年），卒于家中。