曾任兖州兵曹。中宗神龙（705-707）年间，与贺知章、贺朝、万齐融、邢巨、包融等俱以文词俊秀驰名于京都，其与贺知章、张旭、包融并称为"吴中四士"。玄宗开元时尚在世。
张若虚诗作书法欣赏其诗描写细腻，音节和谐，清丽开宕，富有情韵，在初唐诗风的转变中有重要地位。但受六朝柔靡诗风影响，常露人生无常之感。诗作大部散佚，《全唐诗》仅存2首，其一为《春江花月夜》，乃千古绝唱，是一篇脍炙人口的名作，有“以孤篇压倒全唐”之誉；另一首诗是《代答闺梦还》。
代答闺梦还
关塞年华早，楼台别望违。试衫著暖气，开镜觅春晖。
燕入窥罗幕，蜂来上画衣。情催桃李艳，心寄管弦飞。
妆洗朝相待，-暝不归。梦魂何处入，寂寂掩重扉。
春江花月夜
春江潮水连海平，海上明月共潮生。
春江花月夜意境滟滟随波千万里，何处春江无月明。
江流宛转绕芳甸，月照花林皆似霰。
空里流霜不觉飞，汀上白沙看不见。
江天一色无纤尘，皎皎空中孤月轮。
江畔何人初见月，江月何年初照人。
人生代代无穷已，江月年年只（或“望”）相似。
不知江月待何人，但见长江送流水。
白云一片去悠悠，青枫浦上不胜愁。
谁家今夜扁舟子，何处相思明月楼。
可怜楼上月徘徊，应照离人妆镜台。
玉户帘中卷不去，捣衣砧上拂还来。
此时相望不相闻，愿逐月华流照君。
鸿雁长飞光不度，鱼龙潜跃水成文。
昨夜闲潭梦落花，可怜春半不还家。
江水流春去欲尽，江潭落月复西斜。
斜月沉沉藏海雾，碣石潇湘无限路。
不知乘月几人归，落月摇情满江树。