故事发生在西汉武帝的太始四年。这年夏天，位于江南的豫章郡豫章县发生了一起抢劫凶杀案，受害者是城中大族卫氏家的婢女。卫氏仗着自身乃是当地大族，不断对县廷施加压力，要求尽快破案。豫章县令王德承受了很大压力，组织很多老吏探查，均无所得。王德一筹莫展，向退休老吏李顺求救，李顺向王德推荐了自己的学生，县青云亭亭长小武。小武果然也不辜负期望，通过细密侦察，终于破获此案。原来此案竟然有卫氏和广陵王勾结的背景，但由于广陵王是武帝的亲儿子，武帝特地下诏将之赦免。
但是广陵王并不死心，又和京辅游侠朱安世勾结，企图劫持豫章郡都尉，夺取豫章郡四万张强弩，以便他日天下生变，有资格谋反。但是这场劫持也被小武击破，并俘获了朱安世。继而朱安世约好的梅岭群盗数百人围攻县廷，想救走朱安世，小武干脆矫诏发郡兵击破群盗。不料这又引起了当朝丞相公孙贺的恐慌，因为公孙贺的儿子公孙敬声和朱安世曾有勾结，干过不少足以杀头的案件。由于担心小武已经审讯朱安世，得到了证据，公孙贺因此以小武矫诏征发郡兵的理由，派人捕杀小武。小武得到消息，只好仓惶出逃。
但是出逃中，早被公孙贺派人拦截。眼看小武性命不保，这时广陵王翁主刘丽都突然赶至，救走了小武。他们在路上，用强弩将公孙昌等一干追兵射下悬崖，并捕获了假冒天子使者的昌邑王部下张崇，收复了豫章县郡兵郭破胡等人。在广陵县，小武和刘丽都日渐生爱，这遭到了楚王使者赵何其的嫉妒，因为赵何其慕恋刘丽都的美色。赵何其怂恿广陵王捕杀小武，但小武凭借自己对汉律的熟悉，巧言利诱，成功说服赵何其，使赵何其在广陵王面前反而为自己说好话。
赵何其拿着小武送给自己的朱安世的招供文书，去长安告发公孙贺谋反，意欲得到封侯的赏赐。哪知被廷尉严延年引用汉律，判处宫刑，赵何其因此极恨小武。而武帝却因此征召小武入长安，让他和新任丞相一起治理公孙贺案件，处死了公孙贺以及牵连的两位公主、几位列侯。小武因为能干，再度被武帝擢拔为豫章郡太守、绣衣使者，巡视江南五郡，可以衣锦还乡了。
还乡途中，小武经过广陵国，迎娶了刘丽都，一起回归广陵。正是志得意满，回家却发现父母双双被杀。小武悲愤莫名，将捕获的贼盗严加拷掠，却最终没有发现谁是真正的凶手，因此小武将豫章郡不法少年和豪强大族中犯法者全部捕获，一日杀五百人，郡中股栗。而小武也因为治理郡国有铁腕而被严延年举荐为京兆尹。
小武再度入京，因为目睹武帝宠臣江充的弟弟江之推骄横不法，率吏卒追入上林苑椒唐殿，将其射杀。但椒唐殿是武帝驾幸过的地方，没有诏书闯入者皆当腰斩。小武射杀江之推的同时，也射中殿门，按律当斩。武帝欣赏小武的才能，想赦免小武，但是不好直说，派使者赵何其暗示廷议的大臣。却被赵何其因缘为奸，找到机会胁迫小武的妻子刘丽都自杀。小武出狱后大为伤心，为求得报仇，干脆假装和江充和好，找到机会杀死了赵何其。但小武意犹未已，想最终杀死江充，才算彻底雪恨。
江充因为得罪过皇太子，担心武帝死后自身会遭族诛。因此趁着武帝生病，进谗言说有人巫蛊诅咒武帝。武帝很信任他，派他治理巫蛊，有权逮捕任何人。江充于是想对皇太子下手。小武为了报仇，鼓动皇太子，发兵先除去江充，终于为爱妻报了大仇。
皇太子杀了江充，武帝大怒，征召三辅郡兵，让新丞相刘屈氂率领，击破了太子军。小武曾劝太子矫诏夺取北军兵对抗刘屈氂，未被采纳。太子兵败出逃，不得出城。小武却被昔日暗恋的侯门女子靳莫如所救，并借机帮助太子出城，逃往湖县。在靳莫如介绍的杜少翁家躲避，却被小武属下檀充国出卖，县吏围捕杜少翁家，混战中太子见不得脱，只好自缢而死。
小武在属下郭破胡和婴齐的保护下，往后山逃窜，却跑到了悬崖边上。小武不愿被捕受辱，又怀念刘丽都，于是愤然自杀。县吏追上来，声称刚接到天子赦免太子的诏书。