唐代甲库的产生据史料推测当在太宗时代。李世民很重视官员档案，他是封建统治阶级中较为清醒的政治家，亲身经历了隋的复亡，他更知即使集全部权力于一身的皇帝如耗尽民力也难逃亡国杀身的后果，因此深切懂得民与君的关系，很注意研究君道，其中重要的一条就是注意用人，记录官员的政绩，建立必要的档案。
玄宗年间、三省甲库明确设官分职，《唐会要》卷八十二记载：“开元十九年五月十一日敕，尚书省内诸制敕库，及兵部吏部考功刑部簿书景迹并甲库，每司定员外郎、主事各一人，中书门下制敕甲库，各定主书，录事已下各一人专知，周年一替，中间不得改移。”这表明三省甲库制度的形成。除设官分职外，还规定甲库官员满一年才能改迁别官。并设有甲库令史，专掌甲库管理，甲库令史要求“采择一公清勤千，”“冀事得精祥，”人员充任。对于甲库令史的待遇也高于一般令史，“入库日便依资与官，”“入库之日，宜与同类官。”
德宗时鉴于甲库令史皆是胥吏掌知，且“为弊颇久”，给事中关播建议，甲库令史要选派士人充任，以减少流弊。
