西汉宣帝刘询即位之初，渤海郡附近的郡县闹饥荒，饥民们纷纷起来造反，太守控制不了局势，派人飞马报告朝廷。汉宣帝得报后大怒：太守无能，导致盗贼四起。将他撤职查办！
汉宣帝要选拔能够治理好渤海的人，丞相、御史便推荐龚遂可被任用。御史介绍说：龚遂曾经是昌王刘贺的郎中令。昌王称帝时，他多次以经义相谏诤，但没有奏效。等到昌王被废掉时，他也被判有罪，受到了连坐。其实，此人极有才学，如果命他任渤海太守，渤海可治！
汉宣帝听丞相、御史都说龚遂好，于是降旨命龚遂为渤海太守，尽快赴任。
龚遂接旨后，来到汉宣帝的大殿上谢恩。汉宣帝一看，不禁暗暗后悔。原来龚遂不过是个年已古稀的老人，而且体形矮小、相貌平平，与他所听说的形象不相符合，心里就有点瞧不上他了，冷冷地问：渤海动荡不安，朕非常忧虑。你打算用什么方法平息那里的盗贼？龚遂回答说：渤海郡地处偏远，得不到圣上的教化。那里的百姓被饥寒所困，而官吏既不救济，又不安抚，所以才逼得百姓犯上作乱。不过他们就像一群小孩子玩耍一样，只是闹一闹事，以便让朝廷了解他们，恐怕并非是有意作乱。现在陛下是想要我用武力战胜他们呢，还是让我去安抚他们呢？汉宣帝听龚遂说得头头是道，就改变了一些看法，态度和蔼地说：我选用贤良之臣，就是要安抚百姓。自古以来，得民心者得天下，安抚百姓是上策。龚遂说：我听说治理作乱的百姓就如同整理乱绳一样，不能太着急。我希望丞相、御史姑且不要用法令条文来约束我，让我能根据实际情况自行处置，见机行事。
汉宣帝听了龚遂的这番话，感到他确实心中有数，由他担任渤海太守是非常合适的。于是汉宣帝点头同意了，并额外赏赐黄金，派车子把龚遂送到了渤海郡内。
龚遂乘坐驿站的专车到达渤海郡界，他并不急于发号施令，而是悄悄下去微服私访。他那样一位七十岁的老人，普普通通，到哪里都引不起别人的注意。私访中他了解到，当地的农业生产萎缩，固然有自然灾害的影响，但也有一些人为的因素。前一任太守崇尚武力，好大喜功，动不动就采取镇压、剿灭的办法对付那些穷困潦倒、铤而走险的百姓，以至于天怒人怨，越来越多的人走上了反抗的道路，使得田地荒芜，市场凋敝，经济陷入了恶性循环中。龚遂认为，当前重要的不是整顿社会治安，而是引导百姓发展生产。如果老百姓能集中心思务农从商，发展经济，那些“打家劫舍”的人也就会放下凶器，接受教化。从根本上说，谁也不愿意冒着生命危险去杀人越货。只要政府能想方法使“路无饿殍、野无流民”社会自然会逐步安定。
想到这儿，龚遂考虑了一个安抚百姓的办法。恰在这时，渤海郡所辖各郡县派人前来向新太守致贺。实际上不过是探探新太守的口风，看看龚遂有什么施政方案。龚遂问大家：你们各郡县还有多少库存的粮食？大家十分纳闷，新太守不说怎么打击盗贼，却问有多少粮食，难道他要用国家的粮食送人情吗？于是各郡县据实禀报说：当地政府已拿不出什么救济粮，只有靠那些‘盗贼’生产自救了。
“好，那就靠老百姓生产自救吧！ 龚遂让他们统统回去，随即发出公文指示所属各县：把追捕盗贼的官吏全部撤回。那些拿着锄头镰刀等农具的都是善良的农民，官吏不得追究；只有拿着兵器的人才算是盗贼，务必狠狠查处。我自己就没有带军队，独自一个人来到这里。各地农民只要安心生产不闹事，政府既往不咎。如果生产搞得好，还可以适当奖励。”
各地义民听说了政府的命令，立即扔掉兵器，拿起了镰刀和锄头，从事农业生产。渤海还有不少结伙打劫和拦路抢劫的人，听了龚遂的教令，也都即时解散，扔掉兵器，拿起农具。虽然有少数顽固不化者，但在政府派出的军队面前，也被一巢而光。盗贼于是完全平息了，老百姓安居乐业。龚遂于是打开粮仓救济贫民，挑选操守好的官员，在那里安抚百姓，让他们各安生业。
于是社会秩序很快稳定下来，社会风气也逐渐好转。
当地人素爱商业经营和从事手工艺，不愿种田，粮食自然紧张。为倡农耕，龚遂亲自下田耕作，作出榜样。同时号召每家每户养牲畜，种树苗。每个成年人种榆树一棵，大蒜一百棵，葱五十棵，韭菜一垅；每家养母猪三头，鸡五只。
他平时经常下乡和百姓交谈，看到有人背刀剑，马上劝导，要他卖掉这些东西，去买牛犊。
他幽默地向这些乡民说：你身上背着刀剑，不就是背着牛犊吗？牛犊几百斤、上千斤重，压得死人，佩带它干什么？ （后来“带牛佩犊”“卖刀买牛”还成了有名的典故。）
几年后，渤海郡家家富足，夜不闭户，百姓都过上了太平日子。
龚遂之治渤海，可谓深得治术之本。治民乱必治其根，因此需要假以时日徐徐图之，妥善引导，因势利导，而不能一味采取强力手段、急于求成。
如何有效地稳定国家的社会秩序，促进当地的经济发展，是衡量官吏政绩的最好标准。龚遂巧妙地劝慰百姓从事农业生产，表现了他的智慧，也反映了他独特的发展经济的思想。
按照汉制，太守有独自管理一郡的权力，手里握着生杀大权。但是好的官吏却都是化有事为无事，化大事为小事，希望为朝廷安抚老百姓。然而也确有一些当政者，忽视经济发展对社会稳定的作用，单纯抓治安，而且往往采取一些简单、粗暴、生硬的政治、军事手段。表面上看这种手段强大、有力，而实际上，潜伏的危机很多，搞不好就会出乱子，结果“无事弄成有事”“小事弄成大事”不仅造成当地经济停滞，甚至可能使为官者丢官、丧命。这样治理国家，怎么能治理得好呢？
而且，如果治理只是为了昭示为官一任的“业绩”不根据实际情况而定，而是层层设指标，以指标之完成情况来论功绩，定升迁，则必表面文章泛滥，地方官吏难免草菅人命，欺上瞒下，用法或持巧心，析律贰端，深浅不平，奏不如实，（“上亦亡由知”宣帝诏语）则其后果也就可想而知了。
