杜淹是唐朝著名宰相杜如晦的叔父，他聪辩多才，甚得唐太宗李世民的赏识，历任御史大夫、吏部尚书等。

唐太宗李世民继位后，任命杜淹为御史大夫。有一次，杜淹向唐太宗提议：“中央各部门起草的公文可能会有差错，应该派御史前去检查。”唐太宗征询宰相封德彝的意见。封德彝说：“国家设立官职有其明确的职责，官员如果有违法的地方，御史自是应当弹劾纠举。但是如果遍索公文，吹毛求疵，那样就太苛刻了，而且超越了御史的职能，有侵犯其他机构职能之嫌。”杜淹听完封德彝这番话后默不作声。唐太宗问他为什么不申辩，杜淹回答说：“封德彝说的话有道理，臣诚心信服，没有什么话可讲了。”李世民非常高兴，说：“公等各能如是，朕复何忧？”

后来，杜淹改任吏部尚书。他前后推荐了４０余人，这些人中有许多后来都成了知名官员，为国家作出了重要贡献。有一次，杜淹推荐刑部员外郎邸怀道。唐太宗问：“怀道才行如何？”杜淹回答说：“怀道在隋朝时做吏部主事，‘甚有清慎之名’。有一次，隋炀帝准备去江南巡视，召见百官询问去留之计。众大臣察言观色，阿谀奉承，都赞成此行。只有怀道，虽然官小位卑，独言不可。”唐太宗又问：“你当时是什么意见啊？”杜淹如实回答：“臣从众。”唐太宗批评说：“侍奉君主，可以犯颜，但不该隐瞒自己的意见。你称赞邸怀道，但是为什么自己不直谏呢？”杜淹回答说：“臣当时位卑言轻，又知道谏必不从，徒死无益。”唐太宗说：“孔子说过，从父之命，未必是孝子。所以，‘父有争子，国有争臣’。你既然认为隋朝的君主是个无道之君，那为什么还要做隋朝的臣子呢？一边吃着隋朝的俸禄，一边又不尽职尽责，这能算忠臣吗？”于是，唐太宗对群臣说：“你们大家讲一讲历史上进谏的故事吧。”宰相王珪回答说：“商朝的时候，比干向纣王进谏被杀，孔子称赞比干，谓其‘仁’。国家的大臣责任重大，俸禄优厚，理当极谏；小官地位卑下，声望也轻，允许其从容一些。”唐太宗又对杜淹说：“你在今天可以说是身负重任，愿意极谏吗？”杜淹回答说：“臣在今日，必尽死无隐。”

杜淹病重后，唐太宗亲自前往慰问，并赏赐帛三百匹。贞观二年（公元６２８年），杜淹病逝。