中国古代宗教即有支配日、月、风、雨等自然变化和人间祸福、生死、寿天吉凶等人生命运的高神“帝”和“上帝”的说法，
西周以后又称“皇天”、“昊天”、“天帝”等。南朝时陶弘景《真灵位业图》中已有“玉皇道君”、“高上玉帝”的称呼，排在玉清三元宫右第十一和第十九的位置。隋唐时，“玉皇”信仰普遍盛行，唐代诗人白居易的《梦仙》中就有“仰谒玉皇帝，稽首前至诚”的诗句，诗人元稹《以州宅夸乐天》一诗中亦有“我是玉皇香案吏”之句。
大约在唐宋之际成书的重要道经《高上玉皇本行集经》详细叙述了玉皇的出身和来历：很久以前，有个光严妙乐国，国王净德和王后宝月光老年无子，于是令道士举行祈祷，后梦太上道君抱一婴儿赐与王后，梦醒后而有孕。怀胎一年，于丙午岁正月九日午时诞生于王宫。太子长大后继承王位，不久舍国去普明香严山中修道，功成超度。经过三千劫始证金仙。又超过亿劫，始证玉帝。宋真宗大中祥符(1008—1016)八年(1015)，尊玉皇上帝圣号为“太上开天执符御历含真体道玉皇大天帝”。宋徽宗政和(1111—1117)六年(1116)，又尊玉皇尊号为“太上开天执符御历含真体道昊天玉皇上帝”。