武德五年（622年），高士廉归顺唐朝，被任命为雍州治中。他在唐朝官场中逐步晋升，武德九年（626年）参与策划了玄武门之变，因此被拜为太子右庶子。唐太宗即位后，高士廉先后担任侍中、许国公，并曾因事被贬为益州长史，不久后回朝任吏部尚书，封许国公。高士廉在位期间，负责献陵事宜，编撰《氏族志》，对当时的社会风气产生了积极影响。他还以开府仪同三司的身份，图形凌烟阁，显示了他在唐朝的显赫地位。贞观十九年（5年），高士廉被任命为太傅，辅佐太子李治监国。高士廉于贞观二十一年（7年）去世，享年七十二岁。他追赠司徒、并州大都督，谥号文献，陪葬昭陵，并被配飨太宗庙庭。唐高宗即位后，追加他为太尉，彰显其一生的功绩。