扫墓历来被视为清明节最重要的习俗。《清通礼》是把修整坟墓解释为“扫墓”名称的来由:岁,寒食及霜降节,拜扫圹茔,届期素服诣墓,具酒馔及芟剪草木之器,周胝封树,剪除荆草,故称扫墓。
1530年,明世宗诏令两京国子监及天下郡县都要建立启圣祠奉祀。此外,鲁城东有颜林,是先师兖国公墓,墓祀日期也为一年两次,即春用清明节,冬用孟冬朔日,由宗子博士主祭。据广西梧州府《怀集县志》载,县有孔公祠,每岁清明日与厉坛同日祭。
一些地方还在清明这一天,祭祀和本土相关的生前要人。如河南汝州郏县西有三苏墓,为宋代大文豪苏东坡与其弟苏辙的葬地。每逢清明节,这里的守官和乡民届时要到坟地拜扫。