在古代，人们产生万物皆有灵观念的同时，也就出现了祭祀。当时祭祀天地山川，往往有祝祷性的文字，称作祭文、祈文或祝文。明徐师曾在《文体明辨序说》中指出：“古之祭祀，止于告飨而已”，其文并无哀伤之意，与后代的哀祭文是两码事。而专门用来追念哀悼亲友丧葬的文字，古人常用的形式是诗歌。春秋之际，《诗经》中的《凯风》、《葛生》、《黄鸟》、《蓼莪》等哀诗，悲切伤痛，传诵于黄河流域。战国以下，屈原的《九歌》、宋玉的《招魂》、景差的《大招》等祭歌，缠绵悱恻，流播于江汉之滨。到了两汉，又有《薤露》、《蒿里》等挽歌，哀音纤徐，声绕闾里。所以清代姚鼐在《古文辞类纂序目》中曾说：“哀祭类者，诗有颂，风有黄鸟、二子乘舟，皆其原也。”
     古代以散文形式出现的哀祭文，*早见于《尚书》中的《周书·金縢》:
惟尔元孙某，遗厉虐疾。若尔三王，是有丕子之责干天，以旦代某之身。
    写周武王病笃，周公旦祷于三王，请以身代，史官纳其祝册于金縢之匮中。虽仍属于祭天祈祷之词，但毕竟悬念生死，情切骨肉，可视为哀祭散文的萌芽之作。其后，周代统治者为了巩固其宗法礼教制度，特别重视厚葬，王公贵族卿大夫死后，都要在祖庙前举行祭奠仪式，由史官宣读诔辞，以表彰死者功绩，并确定其谥号。儒家又把此种仪礼伦理化、规范化，使之成为中国封建社会传统礼教的重要组成部分。据《周礼》郑玄注称：“诔者，累也，累列生时行迹，读之以作谥。”诔也就成为古代哀祭文的早期形式。同时《礼记·曾子问》中还规定“贱不诔贵，幼不诔长”，又给它打上了明显的封建等级烙印。*早的诔，据《檀弓》所载为鲁庄公诔县贲父、卜国，认为“士之有诔，自此始也”。但只有记事，而无诔辞。现存*早的诔辞，为《左传·哀公十六年》所载鲁哀公的《孔子诔》：
旻天不吊，不慭遗一老，俾屏余一人以在位，茕茕余在疚！呜呼哀哉尼父！无自律。
    全文虽只短短数语，但词哀情切，体现了“祭奠之楷，宜恭且哀”（明徐师曾《文体明辨》）的抒情特征。因诔辞必经宣读，其中“呜呼哀哉”的呼号语，就被以后哀祭文所广泛套用。
    两汉之间，扬雄的《元后诔》、杜笃的《大司马吴公诔》、傅毅的《明帝诔》、张衡的《司空陈公诔》、蔡邕的《济北相崔君夫人诔》、卢植的《郦文胜诔》等诔辞先后出现，盛极一时。其体例大致为：“选言录行，传体而颂文，荣始而哀终。论其人也，暖乎若可觌；道其哀也，凄焉如可伤。”（梁刘勰《文心雕龙·诔碑》）也就是前列小传，记叙死者生平，表示颂扬之意；后写四言诔辞，称誉死者荣耀，寄托哀悼之思。前者为散体，后者为韵体，从而开两千多年来哀祭文韵散结合之先例。与此同时，由辞赋派生出来的哀辞、吊文，由颂神式祝辞衍生出来的散体哀祭文也相继出现。哀、吊两体从文辞上说，要求“情主于伤痛，而辞穷乎爱惜”。（刘勰《文心雕龙·哀吊》）。