中国人用玉殓葬的历史非常久远。早在新石器时代就出土不少玉制文物，如浙江良渚文化（公元前3300－前2000年）、山东龙山文化（公元前2500－前2000年）以及殷商时期出土的墓葬，除了玉珠外，有玉蝉、玉鱼、玉管等等多种造型。

《说文解字》载：“灵，灵巫也。以玉事神”，由于玉的色彩与光泽，古人认为玉是山川大地精气的结晶，可以用于人神沟通，而通过玉器则可保佑死者灵魂能够得到安息，因此玉有了宗教象征意义，成为了殓葬器物。

春秋战国时，包括齐威王、齐宣王、燕昭王直到秦始皇，均花费了大量财力与人力入海寻找仙丹，可惜全告失败。但后来者依然趋之若鹜，只是把找丹改为了炼丹，笃好神仙方术之人在汉代君王中比比皆是。可惜的是仙丹始终没有炼成，中毒死亡的到有不少，成仙也成为了传说。

而人始终难免一死，于是只有把修仙的愿望留存，葬到墓里，随到来生。汉代皇室便将死者全身用玉片制成类似甲冑的衣服包裹死者，安慰自己这种方式能让死者顺利与神灵沟通，还能因尸身的保存、防腐最终成为神仙。

以玉衣为葬，最早的纪录可见《史记·殷本纪》：“甲子日，纣兵败，走登鹿台，衣其宝玉衣，赴火而死”。汉代的玉衣，多半称为“玉匣”或“玉柙”，取其匣藏物之意。一些学者认为西汉初因经历战乱，社会社会积弱，甚至到汉文帝时，朝廷财政仍不宽裕。当时在文帝就曾说过自己的陵寝不用太过奢侈“治灞陵皆瓦器，不得以金银铜锡为饰”。

通过文景时代休养生息，到了汉武帝时，民间累积不少财富。汉武帝本人又笃信道教成仙的思想，加之“张骞通西域”后玉料来源不虞，玉衣趋于制度化。《后汉书礼仪志》：“诸侯王、列侯始封、贵人、公主皆令赠印玺、玉柙银缕；大贵人、长公主铜缕”。除了皇室贵族之外，若得到皇帝赏赐，朝廷功臣也能着玉衣下葬，如临终被武帝托孤的霍光，除了以皇帝规格下葬外，还“赐金钱、缯絮绣披百，领衣五十筐，璧珠玑玉衣”。

随后，由于王莽篡汉，皇帝当得极不称职，在蝗灾、旱灾四起后爆发大规模民变内乱，虽然最后由光武帝刘秀削平群雄、建立东汉，但东汉初年经济衰坏，重新回到西汉初年休养生息的政策上。于是，东汉玉衣仅限于皇帝皇后使用，贵族不再有着玉衣入葬的特权，到了魏文帝曹丕时则直接下了的禁令。

应该说，神仙思想成就了金缕玉衣，虽然它已成为了历史，但无论以何种器物陪葬，祭祀祖宗这种朴素的信仰都一直没变。也因此，我们的血脉和文化才得到了一直的传承，绵延不断，直到现在。