大中祥符七年（辽开泰三年）即公元1014年六月二十一（乙亥），枢密使王钦若被罢免，改任吏部尚书；枢密使陈尧叟也改任户部尚书，副使马知节则改任颍州防御使。
王钦若生性倾巧，敢做很多荒诞的事。马知节看不起他的为人，从不屈意追随他。宋真宗赵恒曾将自己写的《喜雪诗》赐给近臣，然而误用了旁韵。王旦想提醒宋真宗，王钦若说：“天子作诗，哪里需要礼部来校对？”王旦也就算了。王钦若退下后，马上将误用旁韵的事秘密奏闻。后来宋真宗晓谕二府（枢密院为西府，中书门下为东府）说：“先前所赐的诗，要不是王钦若进言，几乎成了众人的笑柄。”王旦只是唯唯诺诺而已。马知节十分不满，详细讲了这事的本末，斥责他的奸佞，但宋真宗也不怪罪。王钦若每次奏事，经常怀里藏着几个奏折，只拿出其中一二，其余都藏匿起来；然后用自己的意思假称上旨，加以实行。马知节曾在宋真宗面前盯着王钦若说：“为何不将怀中的奏折全都拿出来？”王钦若当时正异常得宠，马知节更加不肯身居其下，所以多次在宋真宗面前和他争辩。
当都监王怀信等人上报平定蛮人的功劳时，枢密院商议要论功行赏。王钦若和陈尧叟请求为他们转一资，但马知节说：“边臣长久无人立功。臣请陛下重赏他们，用以激励其他边将。”此事长久无法解决。宋真宗催促他们，马知节非常愤慨，因此当面攻讦王钦若的短处。后来他干脆不等奏禀朝廷，当即超次授任王怀信等人官职。宋真宗非常愤怒，跟宰相向敏中等人说：“王钦若等人商议王怀信的赏典，开始时一直拖延，最终又擅自超次提擢；胆敢将爵赏高下的权柄当作自己的责任！近臣如此行事，难道朕就必须束手让他们胡来。”又说：“王钦若他们相处得异常不和，事无大小，动不动就要争个不停。马知节又多次诋毁朝列，好像审官、两制、三馆、谏官、御史都不称职。他就是如此看不起他人，却把自己太当回事！”于是将三人全都罢免。宋真宗很快又将马知节支出去当潞州知州。
同一天，宋真宗听从宰相王旦的推荐，任命兵部尚书寇准为枢密使和同平章事。寇准尚未入宫谢恩前，宋真宗命令向敏中代理枢密院的公事。此后枢密使被罢免后，朝廷当即命令宰臣代理枢密院事，成为惯例，就像向敏中这样。同时，朝廷用驿马召镇州知州王嗣宗和鄜延都部署曹利用赶赴宫阙。
次日即六月二十二（丙子），宋真宗下诏，为遭受水灾流亡他乡，但又回归复业的棣州百姓免税三年。
同时，辽圣宗耶律隆绪将国舅二帐合为一帐，并任命伊勒希巴萧迪里为详衮（理事官），总领此帐。
六月二十三（丁丑），退休的司空致仕张齐贤去世。张齐贤是曹州冤句人。他三岁时就遇到后晋乱世，搬家到洛阳。他孤苦贫穷，但努力致学，很有远大志向，钦慕唐朝李大亮的为人，所以字师亮。宋太祖巡幸西都时，张齐贤以布衣平民身份在他马前献策。宋太祖召他到行宮，张齐贤以手划地，逐条上陈了十件事：分别是下并汾，富民，封建，敦孝，举贤，太学，籍田，选良吏，慎刑，惩奸。其中四事颇让宋太祖满意，但张齐贤坚持认为他的十事全都很好。宋太祖勃然大怒，命令武士将他拖出宫去。回京后，宋太祖跟他弟弟赵光义（即后来的宋太宗）说：“我巡幸西都时，只是得到了个张齐贤而已。我现在不想给他官爵，以后可以让他为相辅佐你。”
后来宋太宗选拔进士时，想让张齐贤登上高第。但有司部门选拔失当，所以他没有高第。宋太宗很不高兴，干脆将整榜进士都任命为京官。于是张齐贤以大理评事出任通判衡州。当时衡州正在判处劫盜，要将他们全部处死。张齐贤到任后，救下了其中五人。自荊州直到桂州，水递铺（即水路驿传）有民夫数千户，因此邮役被搞得十分贫困，衣食大多无法自给。张齐贤上奏将他们减少了一半。太平兴国四年（979），他接受替代回朝，刚好遇上宋太宗亲征晋阳（北汉）。张齐贤拜谒后，宋太宗升迁他为秘书丞。忻州刚被攻下不久，宋太宗于是任命他为忻州知州。翌年宋太宗召他回朝，改任为著作佐郎兼直史馆，不久改任他为左拾遗。冬季，御驾北征，议政的人都上言说，应当尽速攻取幽薊。张齐贤上疏说：
“方今海內一家，朝野无事。关切陛下圣虑的人，岂能不因河东（北汉）刚刚平定，那里的驻兵还很多，幽燕尚未攻下，而为车马运输的辛劳感到焦虑？但臣的愚见认为，这些都不足以忧虑。自河东刚被攻下以来，臣出任忻州知州，捕得契丹负责纳米的典吏。他们都说契丹人都是从山后（今河北太行山北部和军都山以北地区）转运粮食到河东。以臣的预料，契丹能够自备军粮救援晋阳，不能说是没有为此尽力。然而太原最终还是被我所有。这只能说明他们力不从心而已。现在河东初平，人心未定；岚、宪、忻、代都没有军寨。一旦契丹入寇，那么那里的田牧将顿时损失；万一他们扰边，那么太原的守备就值得担忧。等到国家守住要害，增加壁垒；左控右扼，巩固边防；恩信已行，民心已定；那时再到雁门阳武谷和他们争夺小利，这样就能估计到对方的智慧和能力。圣人举事，都得寻求万全。百战百胜，不如不战而胜。如果办事格外谨慎，那么吞并契丹和攻取燕薊，实在不算难事。
“自古以来，疆场的困难，并非全是来自敌国，很多也都是因为边将自扰导致的。如果边境诸寨得到能人抚御，只要让他们峻垒深沟，养精蓄锐，那么就能以逸待劳，宁我致人（安宁自己控制对方）。这就是当年李牧之所以得到赵王重用的原因。所谓择卒不如择将，任力不如任人，就是这个意思。如果这样则边鄙安宁，边鄙安宁则车运减少，车运减少则河北的百姓得到休息，百姓得到休息，则田业增加而蚕织增广；朝廷就能重视农耕，积累谷粮，充实边用。况且敌人的心思固然也懂得趋利避害，他们又怎肯投诸死地而为寇？
“臣听说拥有六合的人（即帝王）以天下为心，豈止争夺尺寸之地，角逐强弱之势而已？所以圣人先本而后末，安內以养外。人民是根本；疆土是枝末。五帝三王中，从未有过不将根本放在先前的。尧舜之道没有其他，只是在于安定人民和让他们获利而已。人民既然安定获利，那么远人也就归顺而至。陛下爱护人民和让天下获利之心，真就像尧舜一般。臣担心群臣大多以纤细的小利，尅扣下民的政术，侵害穷苦百姓，以此作为自己的功能。至于民众的疾苦，他们视而不见，听而不闻。快速招来无比的怨恨，无大于此。还希望慎重挑选通达儒者，让他们分路去采访两浙、江南、荊湖、西川、岭南、河东。凡是先前税敛苛刻沉重的，都加以改正，从而让百姓获利，使赋税和课利公允便利，可以长久实行；为圣朝制定律法；除去旧日弊病；天下各州有不便于民众的，委托地方长吏奏闻朝廷；对胆敢因循守旧的官吏，处以重法。这样就能使天下人都知道陛下的心意，感戴陛下的恩惠。以德怀远，以惠利民，那么远人的前来归附，就可立马而待。”
太平兴国六年，他出任江南西路转运副使，并于冬季改任右补阙，加正使。张齐贤至任后，寻访了饶、信、虔诸州土产的铜、铁、铅、锡的场所，寻求前代铸冶的技术，以饶州永平监所铸的产品作为样式，每年铸造五十万贯钱，共使用八十五万斤铜，三十六万斤铅，十六万斤锡。然后他前往宫阙向宋太宗当面陈述此事，敷奏得十分详细准确，议政大臣都无法反驳。
先是，各州罪犯大多都被禁锢后押送阙下，而在路上死去的常有十之五六。张齐贤在路上遇见从南剑、建昌、虔州押送来的犯人，取来犯人档案检查后，发现他们全非首犯，因此为所有这些人申冤。他这时在朝堂极力争辩，后来凡是押送至京的囚犯，朝廷都要委托强干的明吏重新审讯，一旦发现罪证不实，那么将对原审的官员治罪。此后江南押送进京的罪犯减少了大半。
早先，江南各州的小民，住在官府地盘的都得交纳地房钱。吉州靠江的地方即使被淹没，那里的百姓还得交纳所谓勾栏地钱。那些住在木筏浮居的人也得交纳所谓水场钱。这些都是前代的弊政，在张齐贤到任后全都奏论免除了。
当初，南唐的李氏据有江南，交纳税钱三千以上的民户必须出丁一人，面上刻字，自备兵器甲胄，交给官库。出征时官府发还给他们；每天自己还得拿出二升粮食，名为义军。江南归附朝廷后，北宋让这些义军全都归农。到这时，言政的人认为这些人长久在行伍，不乐意从事农耕，便请求朝廷派使者去选拔他们从军，连同他们的家属送到阙下。张齐贤上言说：“江南义军，本来都是良民，只是因橫遭黥面充军，才无处逃避。朝廷收复江南之后，便将他们放回归农。他们长久沐浴皇风，全都乐意务农。现在如果逐户搜索，将造成极大惊扰。法律贵在稳定，朝政崇尚清净。先前敕令既然已经放他们归农，不如现在暂且依旧。”张齐贤身居转运使要职，勤于探究民间弊病，一心寻求宽仁为政，所以江南百姓思念而不能忘记他。不久宋太宗召他回朝，拜枢密直学士，并提擢他为右谏议大夫兼签署枢密院事。
雍熙初年，宋太宗升迁他为左谏议大夫。雍熙三年（986），宋太宗大举北伐时，代州的杨业战沒。宋太宗征求近臣对策，张齐贤自己请求出行。宋太宗当即授他为给事中兼代州知州，与部署潘美一同统领边境兵马。当时辽兵自湖谷入寇，兵临城下。神卫都校马正率领所部在南门外布阵，但众寡不敌。副部署卢汉赟为人畏懦，只是保壁自固。张齐贤挑选了廂军（平时不参战的役兵）二千，在马正的右边布阵，并阵前誓师。宋兵无不慷慨激昂，以一当百。结果辽军退却。
早先，他和潘美约定，让并师（太原部队）前來会战。没多久，派去的使者被辽人擒获。张齐贤觉得会战的日期已经泄露，并担心潘美的部众会被辽军趁机偷袭。后来潘美的使者来到，说军队已经从并州出发；但到了柏井时得到朝廷密詔，说东边大军已在君子馆战败，所以并师全体都不许出战；因此军队已经返回太原。当时辽兵充斥川野，张齐贤说：“贼兵只知道潘美前來，而不知道潘美已经撤退。”于是将潘美的使者关进密室，半夜里派兵二百，每人拿着一面旗帜，背着一束干草，在距离州城西南三十里的地方，高举旗帜，点燃干草。辽兵远远看见火光中有宋军大旗，以为并师已到，无比惊骇，急忙撤退逃走。张齐贤先在土磴寨埋伏了两千步兵，趁机掩杀，击溃了辽军，还生擒他们北大王的儿子一人，帐前舍利一人，斩首数百级，缴获战马二千，兵器甲胄无数。捷报上奏时，张齐贤将功劳都让给卢汉赟。
端拱元年（988）冬，宋太宗拜他为工部侍郎。辽人又自大石路南侵，张齐贤预先挑选了一千廂兵，分为两部，分别驻扎在繁畤和崞县。他下令说：“如果代西有寇，则由崞县的部队应战；代东有寇，则由繁畤的部队应战。等到开始接战时，郡兵也都集中起来了。”到这时，辽军果然被繁畤的宋军打败。
端拱二年，朝廷设置屯田，张齐贤出任河东制置方田都部署，入朝官拜刑部侍郎兼枢密副使。淳化二年（991）夏，他出任参知政事，并在几个月后官拜吏部侍郎兼同中书门下平章事。张齐贤母亲孙氏年已八十多，宋太宗进封她为晋国太夫人。她每次进入禁中拜谒，宋太宗总要感叹她的福寿和有个好儿子，还经常下手诏安抚慰问，给她很多赏赐。朝廷搢绅大臣无不为张齐贤感到荣耀。
当初，王延德和朱贻业一同掌管京庾（大粮仓）。王延德想要补任外职，而朱贻业和参政李沆有姻亲关系，他便想通过朱贻业去请托李沆。李沆则为他向张齐贤请托。张齐贤将此事奏闻。宋太宗因王延德曾经在他即位前的晋王邸办过事，生气他自己不来请求，反而要请托执政大臣，便将他召来责备。王延德和朱贻业含糊其辞，都不肯说实话。张齐贤不想连累李沆，便独自承担了责任。淳化四年六月，他因此被罢免，改任尚书左丞。同年十月，宋太宗任命他为定州知州，但他因母亲年老不愿前往。没多久，他因母亲病故丁忧离职，服丧期间水漿不入口，长达七日，之后也只是每日喝一碗稀粥，在整个丧期不吃酒肉蔬果。很快宋太宗任命他为礼部尚书兼河南府知府。当时河南府监狱里有个即将被处决的死刑犯。张齐贤到任后，立刻辨明冤情而释放了他。三天后，宋太宗改任他为知永兴军（长安）。当时阁门祗候赵赞因为言事得到宠幸，成为提点关中刍粮，经常橫行霸道。张齐贤上奏他的罪行，赵赞最终伏法。不久宋太宗改任他到襄州，又移任荊南，接着又到安州。一年多后，朝廷加他为刑部尚书。
宋真宗即位后，召他入朝，官拜兵部尚书兼同中书门下平章事。他曾私下从容地跟宋真宗上言，谈到皇王之道，并推断为何会成功的道理，还说：“臣受陛下非同寻常的恩典，所以也要做出非同寻常的回报。”宋真宗说：“朕还以为皇王之道没有什么踪迹，只要政事适当，那么就靠近皇王之道了。”当时皇亲里有些人因分财不均而互相诉讼，又进宫诉苦。张齐贤说：“这些事并非台府（御史）能够解决。臣请求自己处理。”宋真宗同意了。张齐贤于是坐在相府，召来告状的人，说：“你不是觉得对方分到的财产多，你分到的少吗？”那人说：“正是如此。”于是让那人签署状纸。张齐贤接着召来两名官吏，下令将甲的家产搬进乙舍，乙的家产搬入甲舍，财产原封不动，然后分别签署进行交易。次日他将此事奏闻，宋真宗非常高兴地说：“朕早就知道非你搞不清这事。”南郊祭祀后，宋真宗加他为门下侍郎。他和李沆同事，但关系不好，不久因为在冬至朝会那天醉酒失仪而被罢相。
咸平四年（1001），西夏的李继迁攻陷清远军后，宋真宗任命张齐贤为泾、原等州军安抚经略使，任命右司谏梁颢为副使。张齐贤上言说：“清远军陷沒以来，和青冈寨烧弃之后，灵武一郡，孤立无援，与外界隔绝。这是李继迁之所以会觊觎和必定入侵灵武的原因。就事势而言，增兵讨伐也许不行，但防御遏制还是绰绰有余；所以不必采用其他办法。蕃部大族首领历来和李继迁有矛盾，朝廷如能用官爵和货利引诱，靠恩信笼络，再以利害关系刺激他们，那么山西的蕃部族帐，谁不会傾心于朝廷？臣所统领的十二州军，现有二万多人；如果再到边境挑选本城的部队，又能得到五万多人；此外再招致蕃部，那么总数就超过了十多万。到时彼出则我归，东备则西击，使他们奔走不暇，疲于奔命，哪里还能成为我们的祸患？如今灵武军民不过六七万，陷于危亡之地。如果李继迁来年春季在我们兵马尚未集中之前，发兵攻打灵武，驱赶他的全部兵众，并力攻围，那么灵州不过一座孤城，必定难以固守。万一灵州失陷，那么贼势将日益增强。那时即使我们集聚众多甲兵，广积众多财货，也很难保证必定取胜。所以臣请求封潘罗支为六谷王，赐给他丰厚的金帛，正是担心李继迁日后用兵，会断绝他们卖马的道路。如果朝廷信使能抵达潘罗支，那么泥埋等族和西南的远蕃，就不难招集。西南一旦听秉朝命，而边境的势力增强，那么鄜、延、环、庆一带的浅蕃，原、渭、镇戎的熟户（浅蕃和熟户就是和汉人交往密切的外族）就会自然归化。然后让他们和朝廷轮换的甲兵及驻扎在那里的兵马互为声援，这样万山族得知，必定不敢在灵州和河西驻军。万山人一旦退走，那么贺兰蕃部也会稍稍叛离李继迁。虽然说名器不可以假人，爵赏不可以滥及；但这的确是圣人为治常用的办法，并非是随时变易的做法。”
张齐贤又请求调用江淮和荊湘的八万丁壮增加防御。但朝臣的看法认为这会动摇民心，另外倾动内地的民众，派去远戍西鄙荒壤，也很不方便。所以张齐贤的建议也就被压下了。
张齐贤又上言说：“灵州是个斗大的绝域，即使城镇还完好健全，道路也还通畅时，朝廷内外就已上言说理应放弃。自从李继迁为患以來，灵州的困境日益严重。灵州往南距离镇戎约五百多里，往东距离环州也有六七天的路程。路途如此艰险，即使李继迁不派兵攻夺，城中的百姓也无法出来，城中的士兵也无路回归。要保全灵州军民，理应派兵接应。就今日而言，最好能增益精兵，去会合西边驻屯和轮换的士兵，加上原、渭、镇戎的部队，率领山西熟户从东界进入，严格约定会师日期，两路交相进发。假设李继迁分兵应敌，我们就可以乘势进攻，那时也比较容易。况且他们远途逃命，首尾难以护卫；千里趋利，不败则擒。臣觉得依照臣的主张，兵锋尚未相交，而灵州之围就会自动解除。然后再将灵州军民，安排在萧关和武延川险要的地方，设置营寨让他们侨居在那里。如此一来，蕃汉和土人的心就会有所依赖。等到局势安定时，再让他们回到原有的籍贯，然后纵使蕃汉的兵马，根据形势决定进退。那么成功就不难实现了。”但是朝廷不能采用他的建议。没多久，灵武果然失陷。
同年闰十二月，张齐贤官拜右仆射兼判邠州，但他没有赴任，很快就改判永兴军兼马步军部署。当时薛居正儿子薛惟吉的妻子柴氏没有儿子，很早就守寡。她带着所有家产和书籍奏告朝廷，想改嫁给张齐贤。薛惟吉的儿子薛安将这事上诉。宋真宗不想插手此事，便命令司门员外郎张正伦就地审理此案，结果发现柴氏说的和薛安说的很不一样。他将此事交给御史，结果发现柴氏的状纸是张齐贤儿子太子中舍人张宗诲教她写的。张齐贤因此被贬为太常卿分司西京，张宗诲被贬为海州別驾。
景德初年（1004），宋真宗又起用张齐贤为兵部尚书兼青州知州。宋真宗临幸澶渊时，任命他兼任青、淄、潍州安抚使。景德二年，他改任吏部尚书。张齐贤上疏说：“臣在先朝时，经常担忧灵、夏二镇最终要被李继迁吞并。言事的人都觉得臣的担忧很过分，所以臣想略举些既往的事以表明事情的本末。当时臣下都觉得李继迁只是怀念父祖的旧地，別无他心。先帝任命他为银州廉察（观察使），希望他会满意。然而他后来攻劫不已，直到降服了麟、府州界八部族的蕃酋，又胁迫贺兰山下的帐族。而言事的人还觉得朝廷对他的封赏不够丰厚。自从陛下赐给他银、夏二州的土壤，以节度使的节旄表示对他的宠幸以来，李继迁的奸威更加滋长，逆志尤其暴虐。他屡次截断灵州的粮道，又包围沿边的城池。数年之间，灵州终于被他吞噬。当灵池和清远军即将失陷时，臣正接受经略使的任命。臣考虑到必须找到一两处强大的蕃族，与李继迁为敌。这就是以夷克制夷的办法，古今的上策。于是臣请求以六谷的名目封潘罗支，让他为朝廷效力。当时朝廷近臣的看法，全与臣的谋略不同，所以大多数人都加以阻扰。当李继迁被潘罗支射杀后，大家都觉得边患或许可以平息。如今他儿子李德明照样到处攻劫，析逋游龙钵等人都是他的部下。李德明的志向似乎也不小。臣担心李德明会利用大驾东幸之际，去进攻六谷。那时瓜、沙、甘、肃、于阗等地将逐渐被他所控制。假使潘罗支尚在，那么李德明就不足为虑。如今潘罗支已亡，厮铎督恐怕并非他的敌手。还希望陛下委托大臣去经办这事。”
张齐贤扈从御驾东封泰山回来后，宋真宗再次拜他为右仆射。当时朝廷正修建玉清昭应宫，张齐贤上言说，在宫里绘画符瑞，有损陛下的谦虚美德，又有违奉天的旨意，因此屡次请求取消这一工程。
大中祥符三年（1010），他出判河阳，也扈从御驾去祭祀汾阴。回来后，宋真宗进位他为左仆射。大中祥符五年，他接受替代后从河阳归来，请求告老。宋真宗让他在司空位置退休致仕。他入宫告辞时宋真宗为他赐坐，他刚下拜就摔倒在地。宋真宗急忙拦住他，并让他两个儿子扶掖着他上殿，命令将坐茵增到三个。他回归洛阳后，得到当年唐朝名臣裴度的午桥庄，里面有茂盛的池榭和松竹。张齐贤每天都在那里和亲故旧友喝酒咏诗，十分心旷神怡。这时他病故，终年七十二岁。宋真宗追赠他为司徒，谥号文定。
张齐贤姿仪丰硕，论事时慷慨激昂，很有大略，以辅佐君主为己任。他留心刑狱案件，救活了不少无辜。他也喜欢提拔奖励寒俊。张齐贤少年时家里很穷，父亲死后没钱安葬。有个河南县吏为他操办丧事，所以张齐贤对他十分感戴，以兄礼待他，即使后来自己富贵了也没改变。他仲兄张昭度曾教授张齐贤经史；当他去世时，张齐贤上表请求朝廷追赠他为光祿寺丞。他也曾依附过太子少师李肃的家。李肃死后，张齐贤为他经办葬事，还在年关和四季祭奠他。宰相赵普曾将张齐贤推荐给宋太宗，但宋太宗当时没有重用他。赵普当即列举了以前的事，说：“陛下如果进用张齐贤，那么张齐贤他日感恩，将超过臣的今日。”宋太宗听了很高兴，因此重用了他。隐士种放的启用，也是由于张齐贤的推荐。张齐贤四次出任两府，九次位居八座大臣，以三公归就私第，一生康宁，享受福寿，时人罕能相比。然而他不拘礼仪规矩，颇好养生之学；再次入相时，几次兴起大狱；又和寇准互相倾轧，有些人因此对他有所非议。
张齐贤的几个儿子都很能干：张宗信任內殿崇班；张宗理任大理寺丞；张宗谅任殿中丞；张宗简任阁门祗候；张宗讷任太子中舍。张宗礼最贤，虽然经累迁登朝，然而不想被羁束，所以大部分时间退居田里。
要想知道宋真宗后来的事，请看下篇文章。
