打油诗源于唐朝，著名诗人张打油的一首咏雪诗流传甚广：“江山一笼统，井上黑窟窿。黄狗身上白，白狗身上肿。”诗中用语俚俗，却生动传神，因此“打油诗”自此成为形容俚俗诗歌的代名词。
历史上，不少名人也偶有打油之作。苏轼和苏小妹互相戏谑，苏轼调侃苏小妹：“前脚未出闺房内，额头已到华堂前。”苏小妹则反唇相讥：“去年一点相思泪，今年始流到嘴边。”
明代才子解缙则以滑稽诙谐著称，他曾在随朱元璋钓鱼时，巧妙化解了朱元璋的怒火，恭维道：“凡鱼不敢朝天子，万岁君王只钓鱼。”
清代的郑板桥与唐伯虎也有不少打油诗佳作，郑板桥的自勉诗：“咬定青山不放松，立根原在破岩中。”表达了他不愿贪图富贵的决心。唐伯虎的诗：“不炼金丹不坐禅，桃花庵里酒中仙。”则展现了他洒脱不羁的性格。
纪晓岚也擅长打油诗，曾为某官母亲写寿联，首句“太老夫人不是人”令该面色铁青，但后续几句则令人捧腹。清代才子李调元亦是打油高手，其一首打油诗：“一窝一窝又一窝，三四五六七八窝。食尽皇王千钟粟，凤凰何少尔何多！”让众士子哭笑不得。
乾隆皇帝也曾以打油诗批驳翰林上书时的错误，诗句“翁仲如何作仲翁，十年寒窗少夫功。”辛辣讽刺。另一首讽刺所谓诗人的打油诗：“生平不见诗人面，一见诗人丈八长。不是诗人长丈八，如何放屁在高墙？”更是让人忍俊不禁。
打油诗常用于吹牛，古代读书人曾以吟诗定高下，最终由一书生技压群雄夺魁，其诗：“天下文章数三江，三江文章数故乡。故乡文章数舍弟，舍弟与我学文章。”便是最佳例证。
二十世纪五十年代，诗界泰斗也写出“杨家有个杨大妈，今年年纪五十八。身材长得高又大，浓眉大眼阔嘴巴”的打油诗，这一时期涌现了许多“农民诗人”，其中四首打油诗堪称代表作，如“种个南瓜像地球，架在五岳山上头”等。
还有一种特殊的打油诗，整首诗十七字，俗称为“三句半”。相传一书生自视甚高，常在念绝句最后一句时卡壳，因此得名“三句半”。一次，他与一农家姑娘相遇，出口吟道：“夕阳照山庄，走来一姑娘。金莲只三寸，横量。”农家姑娘气得扭送公堂，公堂上“三句半”脱口而出：“县官本姓王，一心当皇上。咔嚓只一声，命丧。”详情
