卫臻，字公振，陈留襄邑人，因其父卫兹随曹操战死而受到曹操器重，初为汉黄门侍郎，又任参丞相军事、户曹掾，封关内侯。文帝时，为散骑常侍，封安国亭侯。迁尚书，转侍中、吏部尚书，行中领军。明帝时，进封康乡侯，任右仆射、侍中，掌选举，加光禄医生。帝修殿舍，数谏。迁司空、司徒。正始中，进爵长垣侯。曹爽辅政，固乞辞官。位特进，秩如三司。卒，追赠太尉，谥敬侯。
卫臻的父亲卫兹，节操高尚，曾拒绝三公的征召，曹操初次到陈留，卫兹就说：“平天下者，必是此人。”曹操也觉得卫兹很奇特，好频频去他那里商议大事，厥后卫兹追随曹操讨伐董卓，战死在荥阳，曹操每次路过陈留，肯定派使者前去祭扫他的陵墓。
夏侯惇当陈留太守的时候，举荐卫臻担任计吏，一次，夏侯惇命卫臻带着夫人出席宴会，卫臻认为这是末世才有的败俗之举，不合正礼，夏侯惇震怒，把他抓了起来，没过多久又把他放了，以后卫臻做了汉朝的黄门侍郎，东郡朱越谋反，招供卫臻加入其事，曹操下令说：“我和你父配合举事，对你格外提拔重用。开始听到朱越的口供说，我就丝绝不相信，等收到荀令君的书信，那上面把你的忠诚写得更明白了。”值曹操奉诏为献帝到魏聘取朱紫，他借此上表让卫臻留下来担任参丞相军事。为追念其父卫兹的功勋，又赐封卫臻为关内侯，转任户曹掾。
曹睿继位后，封康乡侯。厥后转任尚书右仆射，掌选举事，亦加侍中。时曹睿大兴土木，卫臻好频频恳切地规劝。等到殿中监擅自拘留了兰台令史，卫臻又把这事陈诉了曹睿。曹睿下诏说：“宫殿盖不成，我已经收心了，你怎么又管起这事来了呢？”卫臻上疏说：“古代制定处置惩罚官员的规则，并不是因为针对他们服务不勤勉，而是因为他们办的事情收益小而害处大。臣每天视察这类事情，大多如此。因此，我恐怕未来各职司会逐渐越职，以至犯了大罪。”诸葛亮又兴兵斜谷，曹魏同时还接到陈诉说：“吴国的朱然也领兵过了荆城开始南征。”卫臻说：“朱然是东吴的一员猛将，孙权这次只不外作出南征的样子，做做幌子而已。”没过多久，孙权果真召朱然进驻居巢，然后进攻合肥。
幽州刺史毋丘俭上疏曹睿说：“陛下即位以来，没有做出得以书写纪录的业绩。眼下吴、蜀倚仗阵势险要，也不是短时间就能平定的，不如临时用国中闲置的军力，前去克定辽东。”卫臻对曹睿说：“毋丘俭所说的都是战国时代使用的琐屑的战略，并非成王业者应该做的大事。东吴连年举兵，进犯领土，而我国仍旧按兵不动，休养将士，没有寻找时机讨伐他，实在是因为老黎民疲惫劳累的缘故。况且辽东的头领公孙渊从小生长在海上，对辽东的统治已经沿续了三代，他们对外抚慰胡人，对内整修武备习练战阵，而毋丘俭却想用一部门军队势如破竹，一蹴而就，他的设想太狂妄了。”以后毋丘俭马虎兴兵果真失利。
卫臻不爱加入朋党，如当日曹操未选继任人时，支持曹植的丁仪邀请卫臻与他们结交，卫臻则以大义拒绝，齐王曹芳时，曹爽专政，派夏侯玄劝请卫臻入守尚书令和为弟求婚，但卫臻都一一拒绝。