唐朝的千牛卫是禁军，不掌控府兵，掌供御弓箭和宿卫侍从。千牛卫大将军就是禁军头领。千牛卫设上将军一人，大将军一人，将军二人。掌管侍卫及供御兵仗。以千牛刀备身左右执弓箭宿卫，以主仗守戎器。皇帝上朝时，千牛卫士兵持御刀立于宫殿两侧。皇帝狩猎时，千牛卫通常跟随。千牛刀备身左右以及持御刀列宫殿两侧的千牛卫士兵，由上将军统领，中郎将为大将军的辅佐，掌管供奉侍卫，负责宣告大将军指令。