西汉末，天凤四年（公元17年），荆州一带发生饥荒，新市人王匡、王凤因为善理争执，在乡里有威信，被饥民推举为“渠帅”，后马武、王常、成丹也率部加入。他们啸聚绿林山（今湖北省京山市大洪山），人数达到八千多人。

绿林军势如破竹，以绿林山为根据地，相继攻下竟陵（湖北潜江西北部，非今竟陵街道）、云杜（今京山市）、安陆等地，拥众五万。公元22年，由于瘟疫流行，为了保存实力，绿林军决定分兵进击，王常、成丹南下江陵，号称“下江兵”，王匡、王凤、马武及其支党朱鲔、张卬等北上南阳，号“新市兵”。平林（今湖北随县东北）人陈牧、廖湛，这时也聚众数千响应，与新市兵会合，称“平林兵”。“平林兵”兵发南阳时，舂陵侯刘仁的后人刘玄，因为父亲刘子张当初被蔡阳国亭长酒后辱骂，怒杀亭长。十年后，亭长之子复仇，杀了刘玄的弟弟刘骞，刘玄结宾客报仇，不想对方反而买通了宾客。刘玄走投无路，于是就投奔了绿林军平林部，陈牧封其为安集掾之职。