设置通判掣肘州府长官。州府的长官为知州或知府，适当扩大他们的权力，可以相应削弱节度使的权力。但州府行政大权如果由知州或知府一人独揽，他们就可以无所畏忌地独断专行，作威作福。宋太祖当然不希望发生这种情况。于是，宋太祖利用平定割据政权改组地方政府的机会，采取设置通判的办法来掣肘州府长官。平定湖南不久，宋太祖开始在南方设置直隶州，从中央朝廷派官员权知州事，同时权派京官为通判进行临视。乾德元年(963),命令刑部郎中贾批等人任湖南各州通判，是为设置通判之始。两年后，平定后蜀，也随之在新收各州设置通判。然后陆续在全国铺开，成为一种新的行政制度。通判设置之初，并不附属于知州，可以直接向皇帝奏报事情。通判身负特殊使命，权力极大，难免恃权骄恣，因而常常与知州发生矛盾，扬言说：“我是临郡，朝廷派我来监视你!”知州的一举一动，多为通判所牵制。有人对此提出异议，认为通判权力过大，应该稍稍加以抑制。太祖知道这种情况后也认为不妥，于是发布命令，告诫通判不得恃权谋私，要求他们与州府长官搞好关系，共同掌管一州的军政事务。所有的文书，通判要和知州共同签署，才可以发布施行。否则，各地可以不予施行。荆湖、西蜀等新入赵宋版图的地区，州郡长官多是原来的一班人，处理政务要依靠原来的僚属，但“事无大小，宜与通判或判官、录事同裁处之”。知州的权力受到了限制，同时通判也不可肆意妄为，二者互相制约。随着政局的稳定和发展，州府长官以外的州府行政人员的设置也逐渐确定下来。开宝三年(970),太祖规定州府足二万户者，设录事参军、司法参军、司户参军各一人。不足两万户者，设录事参军、司法参军各一人，司法参军兼司户参军之职。不足一万户者，设司法参军、司户参军各一人，司户参军兼司录参军之职。不足五千户者，只设司户参军一人，兼录事参军、司法参军之职。这些行政人员统称曹官，负责处理州府日常事务以及户籍赋税、仓库受纳、户婚狱讼、审讯案件等。