陈知微及第后任歙州通判。不久任著作佐郎、直史馆，出任三司户部判官。出使契丹，迁太常博士、判三司都磨勘司，再为户部判官，京东转运副使，任职期间上奏东平监侵占六百八十家民田之事，在真宗的干涉下，田地被悉数退还。又疏通古广济河，使漕运通向更远的地方，解决了黄河水运不便的困难，每年减少夫役数以万计。
陈知微又任荆湖南路转运使。奉召还，拜比部员外郎、知制诰。淮南发生饥荒，皇上派遣陈知微巡察安抚，陈知微认真视察了粮食储备及诸官吏任职情况。
陈知微思维敏捷。既当过司农寺一类的闲官，又纠察过监狱冤情。天禧二年（1018)病重，真宗差遣太医前去看望。陈知微终因病重而亡，年仅50岁。真宗录用其子陈舜卿为太常奉礼郎，给治丧钱，又用官船运载其灵柩还乡安葬。
陈知微身材魁梧，沉稳有才干，当时赞许他的人很多，可惜不能为0送终。陈知微有集二十卷。另一子尧卿，北宋真宗大中祥符五年（1012)进士及第。