公元211年（建安十六年），马超反，张既从曹‘操’破马超于华‘阴’，西定关右。乃以张既为京兆尹，招怀流民，兴复县邑，百姓怀之。
公元212年（建安十七年），天子册封曹‘操’为魏公，魏国初建（此为汉末公国，非后之曹魏）。张既与‘毛’、崔琰等担任魏公国尚书，后出任雍州刺史。曹‘操’对张既说：“你回到故土任刺史，可以说是衣锦还乡了！”
公元214年（建安十九年），张既从护军将军夏侯渊讨伐于罕称王为‘乱’三十余年的羌人宋建，另又攻取临洮、狄道，平定陇右。当时，曹‘操’‘欲’迁徙民众以充河北，陇西、天水、南安三郡民众风闻后引发恐慌‘骚’‘乱’。张即使三郡内为将校官吏者免除民众税捐，让他们整治屋宅，筑水碓，显示无迁徙陇右郡民之意，民心遂安。
公元215年（建安二十年），从曹‘操’征张鲁，别从散关入，氐王窦茂率部万余，恃险不服。张既讨伐叛氐，收其麦以给军食。张鲁降后，张既建议曹‘操’拔汉中之民数万户以充实长安及三辅。
公元218年（建安二十三年），刘备攻汉中，另遣将军吴兰、雷铜进攻武都，张既与都护将军曹洪破吴兰于下辩。
公元219年（建安二十四年），刘备占据汉中天险，曹‘操’数攻不克，军士多有逃亡，不得已放弃汉中，又恐刘备北取武都氐人而进‘逼’关中，问计于张既。张既答道：“可劝氐人迁出，到粮食充裕的地方避敌。并且对先至者予以重赏。如此氐人必争相赶往。”曹‘操’依计行事，遣张既至武都，徙氐人五万余至扶风、天水两郡定居。
此时，武威人颜俊、张掖人和鸾、酒泉人黄华、西平人演等各举郡反叛，自号将军，相互攻击。颜俊遣使送母及子诣曹‘操’为人质，以求援助。曹‘操’问计于张既，他答道：“颜俊等内存祸心，今番若救之，待其势力强大后必定复反。不如坐观虎斗，使其两败俱伤，我们再效法卞庄子刺虎，坐收其毙。”曹‘操’称善。一年后，和鸾杀颜俊，武威王秘又杀和鸾。
公元220年（延康元年），曹‘操’薨，曹丕即位魏王。此前，朝廷没有设置凉州牧一职，自三辅以至西域，皆属雍州。（建安十八年，曹‘操’以朝廷名义将天下十四州合并为古制九州，凉州被裁撤，所辖区域划归雍州）曹丕时重新开始置凉州刺史一职，以安定太守邹岐为刺史。张掖人张进胁持郡守举兵拒邹岐，黄华、演亦驱赶本郡太守，举兵响应。张既领兵至凉州为护羌校尉苏则壮大声势，最终苏则成功平定叛‘乱’。张既进爵都乡侯。
公元221年（黄初二年），凉州卢水胡伊健妓妾、治元多等反，河西大扰。称帝即位不久的魏文帝曹丕十分忧虑，说：“非既莫能安凉州。”乃召回邹岐，另以张既为凉州刺史。诏曰：“昔日贾复请求统兵去攻打郾县的贼寇，光武帝笑着说：‘执金吾去攻打郾县，我还有什么烦恼呢？’你智谋胆略都胜过别人，现在正是你施展本领的时机，我允许您因利乘便，相机行事，不用再先向我请示。”
又派护军夏侯儒、将军费曜等人领兵在他后面接应。张既率军到达金城，要渡过黄河，部下将领、守备都认为兵少路险，不可深入敌方腹地。张既说：“道路虽然险峻，却不像井陉那样狭窄，夷狄都是乌合之众，不会有李左车那样的计谋，现在武威郡很危急，应该迅速赶到那儿。”就断然下令渡河。
卢水胡骑七千余在‘阴’口狙击张既的部队，张既扬言要由‘阴’口渡河，却悄悄地经过且次县到达武威。胡人都以为遇到了神仙，退却到显美县。张既已然占据了武威，费曜的接应部队才赶到，而夏侯儒的部队还没到达。张既犒劳赏赐部下，打算进军攻击胡人。
将领们都说：“我方士卒疲倦，敌人却保存着锐气，很难同他们打仗。”张既说：“现在军中没有现成的粮草，应当就敌人处取得资用，如果敌人发现我方兵力聚集，就要退进深山，那时候再追击他们，道路既险峻难走，士兵又饥饿疲累；如果退兵不追，又会遭受敌人的抄袭。这样的话，部队就总也得不到休息，正应了前人所说的‘一旦放跑了敌人，危害会延续好几代’。”于是便领兵‘挺’进到显美县。遭遇卢水胡的几千骑兵，要借助大风放火烧毁魏军的营盘，张既部下的将士都很恐惧。张既夜间埋伏下三千‘精’锐士卒，让参军成公英督率一千多骑兵挑战，命令他们佯装败退，卢水胡果然争先恐后地来追赶。于是伏兵四出，截断了胡人的队伍，分别攻击他们的首尾，结果大获全胜，斩首俘虏一万多人。
曹丕非常高兴，下诏说：“君渡黄河，历险境，用疲劳的军队攻击有准备的敌人，以少数胜多数，功劳盖过了周宣王时的南仲，勤劳超过了尹吉甫。这个功绩不仅仅是打败了胡人，而是使河西一带永远宁静，让我再也不用顾虑西边的国土了。”曹丕转封张既为西乡侯，给他增加了二百户食邑，连同以前的食邑，一共四百户。
不久后，酒泉苏衡反，与羌豪邻戴及丁令胡万余骑攻边县。张既与夏侯儒击破之，苏衡及邻戴等皆降。遂上疏请与夏侯儒修建左城