人们在生产和生活中需要交流、沟通，表达思想。在文字出现以前，人们只能用语言来表达自己的思想，但语言很容易遗忘。为了记忆的需要，古人创造了“结绳”和“刻契”。易经中就有“上古结绳以记事”的记载，《周易注》：“古人无文字，结绳为约，事大，大结其绳；事小，小结其绳。”

“结绳”和“刻契”是辅助记事的方法。“结绳”就是在绳子上打结，用绳子的大小、位置以及绳子的不同颜色来表达不同的含义。结绳记事方法，外国古代也有应用，被称作“坎普”。还专门设有“结绳官”，负责解释结绳表达的含义。“刻契”就是在竹片、木片、骨片和玉片上刻上各种形状的标志，以此来表达和记录某种信息。“结绳”和“刻契”虽然有记事备忘功能，具备了档案的某些属性，但从本质上讲还不是档案，因为它们记录的情况不确定，对抽象的事物难以表达。“结绳”和“刻契”可以说是档案的萌芽。

甲骨档案是我国迄今发现最早的档案。甲骨文是人们公认的我国最早的文字，是国子监酒王懿荣于1899年发现的。最初发现于河南安阳小屯村的殷墟遗址。这些被刻写在龟甲、兽骨上的文字被称为甲骨文。文字的发明及应用于文献记录是人类文明的一大进步，文字是语言的记录符号，是人类表达思想、交流经验最直接、最确切的工具，也是档案产生的前提条件。商代人们很迷信，但凡举行祭祀、狩猎、战争等重大活动时，必要巫师进行占卜，并把占卜的经过、结果等情况，刻写在龟甲、兽骨上。这就给我们留下了研究商代历史的第一手材料，是商朝政治和生活的直接的原始记录。

稍后又出现了简牍档案、金石档案和缣帛档案等。简牍档案是商代和西周时出现的，是以竹片、木片为书写材料，记载当时社会生产和生活情况。单一的竹片叫“简”，单一的木片叫“牍”，简称木牍。这种书写工具比较笨重，据史料记载，秦始皇每天“日读一担”，即每天处理的公文就有100斤左右。上个世纪我国南方湖南长沙、湖北江陵、云梦、甘肃敦煌等地，先后发现了大批秦、汉的简牍档案，对研究当时的历史提供了宝贵的资料。金石档案是刻写在青铜器、石头上的文字记录材料。

纸质档案的出现是档案发展史上的进步。西汉时期出现了新型的书写材料——纸张，从而改变了人类记录历史的形式。东汉蔡伦对纸张生产进行改进，《后汉书·蔡伦传》记载：“自古多编以竹简，其用缣帛者谓之为纸。缣贵而简重，并不便于人伦乃造意，用树肤、麻头及敝布、鱼网以为纸。”纸张的出现、推广为世界文明作出了重大贡献。在造纸术传到西方之前，古代人类也曾出现了羊皮档案、纸草档案、泥版档案等。

到了近现代，随着科学技术的发展，使得档案载体材料不断丰富多样，出现了音像档案、照片档案、电子档案等新型档案。