相传关公大意失荆州之后，被吴将俘杀。孙权恐刘备与诸葛亮复仇，派人将关羽首级送给曹操。意欲嫁祸，曹操知其计谋，又敬关羽忠义，命人以王侯之礼，将沉香木雕刻成关羽的身躯，与首级一同埋藏于洛阳城南，即目前的关林所在，可见沉香在古人的心中是地位的象征。

后来进入了汉朝的宫廷；在宋代，好的沉香是“一两沉一两金”被喻为“香中之王”；到了明清时，更有“一寸沉，一寸金”之说法，那时广东东莞一带曾以沉香闻名，称为“莞香”在如今的香港境内也有很多的香树，其码头、港口亦是莞香的集散地，香港的地名便是由此而来。沉香被广泛的用于香道，自古也是一味重要的中药，也常被用于礼佛浴佛的主要香药。陆游笔下曾写下过“临罢兰亭无一事，自修琴。铜炉袅袅海南沉，洗沉襟。”

有人说香道是从日本流传过来的一门艺术，殊不知，香道萌发于先秦。我国早在大约4000年前，记载夏、商、周三代历史的《尚书》就已谈到“香的精神层面”，所谓至治馨香，感于神明。那时多用于祭礼，焚烧的亦是香蒿，香木之类；其初成于秦汉，当时熏香已经在宫廷王族中流行，熏炉、熏笼等香具也普遍使用。沉香亦为熏香之上品。

相传汉武帝的宠妃李夫人去世，武帝悲恸欲绝，命人绘其画像挂于宫殿之中，又令道士配以上等沉香木炼制成灵药，放于熏香炉内，夜晚宫殿静悄悄，香烟引领夫人的魂魄至焚香处，四目相对，相顾两无言，惟有泪千行，于是便有了汉武帝的千古重情人之说。

香道成长于六朝，在当时已经上升为了香文化，亦为佛教、道教所推崇，认为那是与佛家仙家沟通的桥梁。更是那些文人墨客笔下的挚爱；其完备于隋唐，自大唐的开元盛世之后，在唐代的宫廷礼制中，用香已是一项极为重要的内容，皇室的丧葬奠礼要焚香，唐代的朝堂以及政务场所要设香案、熏炉。在选拔国家栋梁，科举考试时亦要焚香祷告。鉴真大师就是在那个时候东渡至日本带去了佛经、医术以及中国的香道文化，对后来日本香道的形成与发展有重要的贡献。

在今奈良唐招提寺，该寺至今奉有鉴真坐像；鼎盛于宋元，自隋唐以来海上贸易的兴起，至宋元时期朝廷专设香药库、御香局，来管理海外贸易，香药进出口额占了整个国家的四分之一，已成为国家的重要财政收入，由此可见国人用香的繁盛，可谓是上至达官贵族，诗人骚客，下至黎民百姓。

从深宫高墙内至市井巷陌中随处可见香的身影，在当时的杂剧《西厢记》中，莺莺与张生从初见至定情亦均借焚香之名，才上演了一出圆满的结局；香道广行于明清，香品，香具的种类更为丰富，线香、棒香、塔香等，香具由于黄铜冶炼技术，錾刻工艺的发达香具的雕刻也更为精美。在曹雪芹的《红楼梦》中，有元妃省亲时所焚的百合之香；亦有宝钗所服的冷香丸；书房、闺房、厅堂皆有香,真正一个名副其实的香国。