布显怂，疲惫不堪小憩时被手下绑送曹操。曹操在缢死吕布、处斩高顺、成全陈宫、收服张辽后，突然想起臧霸不曾露脸，于是下令"活要见人，死要见尸"。曹军在"掘地三尺"的行动中，找到了隐身匿藏的臧霸。
被押至曹操面前的臧霸，也像张辽一样，威武不屈。不过由于他是在匿藏中被搜寻而出，身上、脸庞上沾满了蛛网、草屑、泥浆等，看起来十分滑稽，逗得曹操忍不住放声大笑，笑罢，亲自松绑臧霸，恳请他去招降吴敦、尹礼、孙观及孙观之兄孙康等人。臧霸被感动，即去招降并完成而归。于是曹操任命臧霸为琅邪相，又将青州、徐州防务委托于他，臧霸原属部将吴敦、尹礼等人，也得到相应任用。
臧霸履职期间，原先为曹操所属兖州守将徐翕、毛晖，当年因见吕布势盛而叛曹，不想十年河东，十年河西，曹操复又攻夺兖州，两人于是投往臧霸。得知臧霸收留徐翕、毛晖，曹操便书一手令，遣派刘备前往臧霸营辕，要求臧霸将两人首级送往许都。臧霸便对刘备说："我臧霸以前之所以能自立一方，就在于从不做害友之事。眼下我事奉曹公，当应遵其命令，但从仁义角度而言，我难以对徐翕、毛晖下手。这样吧，有请将军回告曹公，如他再行威逼，将我同列斩之。"刘备便将臧霸态度回告曹操。曹操召见臧霸，点赞道："你以仁德处事，也正是我所追求的！"于是收回成命，并分别提任徐翕、毛晖为郡守。
官渡之战期间，臧霸亲领数千精兵投入青州，解除了曹操的后顾之忧，促使曹操专心对付正面之袁军，直至最后大获全胜。
公元205年，曹操在南皮斩杀先降后反的袁绍长子袁谭。臧霸前往祝贺，并向曹操提出愿将亲朋好友悉数迁往邺城居住的要求。曹操对臧霸这一效仿光武帝时期大臣耿纯表示忠心的做法，大加赞赏，功拜臧霸为都亭侯，加威虏将军。
这之后，臧霸在乌桓之战、赤壁之战、逍遥津之战等战役中，建立了不俗的功勋。曹操死后，曹丕继位。在曹丕不听贾诩劝戒、强行征伐东吴、结果陷于进退两难境地时，臧霸说了一句"借我步骑万人，我必能横行于江表"之语。曹丕因此开始忌惮臧霸，在东巡召见诸将时，趁机削了前来朝拜的臧霸兵权。早年忍受过徐谦轻视的臧霸，泰然处之眼下境遇，怡然自得山水之间。这种宠辱不惊的胸怀，最终引起魏明帝曹睿的注意。
曹睿即位后，启用臧霸，增邑五百户，并前三千五百户。可惜的是，臧霸因病去世。具体卒期不详。追谥曰威侯。公元243年，臧霸得享从
…。。