狄塞尔1858年３月出生在法国巴黎。爸爸妈妈是在法国打工的德国工人。法、德交恶后，狄塞尔一家被驱赶回德国。家庭的日子也随之困难起来。但小狄塞尔学习勤勉，中学毕业时以最高分数获得了奖学金，进入慕尼黑工业大学学习。
1879年，年仅21岁的狄塞尔大学毕业。当上了一名冷藏专业工程师。在工作中狄塞尔深感其时的蒸汽机功率极低，萌发了规划新式发动机的想法。在积储了一些资金后，狄塞尔辞去了制冷工程师的职务，自己开办了一家发动机试验室。
针对蒸汽机功率低的缺点，狄塞尔专心于开发高功率的内燃机。其时尼古拉斯奥托创造的焚烧式内燃机已较老练，但那时奥托发动机的燃料是煤气，贮存、带着均不便利，功率也受必定的影响。19世纪末，石油产品在欧洲极为稀有，所以狄塞尔决议选用植物油来处理机器的燃料问题（他用于试验的是花生油）。由于植物油焚烧功能欠安，无法套用奥托内燃机的结构。狄塞尔决议重整旗鼓，进步内燃机的紧缩比，使用紧缩发生的高温度高压力点燃油料。后来，这种压燃式发动机循环便被称为狄塞尔循环。
像一切巨大的创造家相同，狄塞尔的行进道路上困难重重。试验证明，植物油焚烧不稳定，本钱也太高，难以承当狄塞尔的“重担”。好在其时石油制品在欧洲逐步遍及，狄塞尔挑选了原本用于取暖的重馏分燃油柴油作为机器的燃料。压燃式发动机的结构强度始终是个难题。一次试验中，汽缸上的零件象炮弹碎片相同四处飞散，差点儿形成人员受伤或逝世。试验不顺利，狄塞尔的资金也逐渐耗尽。他不得不回到制冷机工厂营生。但狄塞尔没有向困难屈从，他使用业余时间持续试验，一步步完善自己的机器。
总算他在1892年提出的紧缩焚烧式内燃机的原始规划，通过不断的试制和改善，于1897年在德国奥古斯堡工厂制成以火油为燃料的紧缩焚烧式内燃机，今后很快发展为以柴油为燃料的紧缩焚烧式内燃机，即柴油发动机。
1913年9月29号晚上，狄塞尔从安特卫普登上了Dresden号油轮，前往参与一个与Consolidated 柴油发动机制作公司在伦敦的会议。他吃完晚饭后10时左右回到他的房间，留下线刻叫醒他，但之后就再没有人见到他。十天今后，荷兰船Coertsen船员看到了一个在海上漂浮的人的尸身。尸身严峻腐朽，以至于他们并没有将尸身打捞上船。相反，船员将尸身上的个人物品（药丸，钱包，小刀，眼镜盒）取出，将尸身扔回大海。
10月13日，鲁道夫的儿子，尤金鲁道夫确认了这些遗物归于他的父亲。有各种不同的理论来解说鲁道夫的逝世。格罗瑟提出了一个自杀假定，其他的理论以为的不同的人可能以商业利益为杀人动机。但关于一切的解说，依据都是有限的。
