当他即皇帝位后就任命李靖为刑部尚书。后又转为兵部尚书，总领北方军事。
这李世民好像真的是上天选定的真命天子。突厥地区在他上台后就连年灾害，民生疲弊，内部问题就接连而至。贞观四年正月，突厥内部发生了争分，李世民见时机成熟，就下达了攻击令。
李靖正统兵驻扎在山西北部，不等主力军团到达。就率骁骑三千，自马邑出发，出其不意，直逼定襄。颉利可汗根本没有想到李靖的军队居然在天寒地冻的沉沉雾霭当中突然出现在自己的面前。见唐军倏然而至犹如幽灵，不禁大为惊惧，认为“唐兵若不倾国而来，靖岂敢孤军而至”，就是说李靖这样的大将都杀至门前了。一定是唐军倾国出动了，一交手发现唐军超强就吓坏了，撒腿就跑。
李靖一鼓作气拿下了定襄，把突厥所立的隋王杨正道及隋炀帝的萧皇后抓获并送往长安，同时由于发现了敌人的误判。李靖干脆就装作主力，一路穷打猛追，于是出现了一个不可思议的景象——十几万的军队竟然被三千骁骑像鸭子群一样撵着跑。而突厥人一路狂奔，草木皆兵，“一日数惊”，完全不知道李靖根本没打算追上他们。
在长安，太宗得到捷报非常高兴地说：汉朝的李陵带着史上最强的步兵五千人顽强抵御匈奴，虽然最后兵败投降，还被记载在史册上成为后人追念的名将，现在李靖“以三千轻骑深入虏庭，克复定襄，威振北狄，古今所未有，足报往年渭水之役”。
最后阴山至漠北尽入大唐版图，此后北方各部族与西域各国相继请降内附，共推李世民为“天可汗”，而突厥数十万人内附中原，五品以上官衔者竟达百余人，迁居长安的达万户之多。
然而大功臣李靖此时却遭遇到了大麻烦，因为太常卿萧、御史大夫温彦博上书状告李靖军队无组织无纪律，使缴获的“奇宝”，散于乱兵之手?
李世民就招来李靖很生气地大加谴责，李靖只是顿首谢罪，完全不做辩解，于是回家闭门思过去了。
过了一段时间，太宗又把他召来，说以前隋将史万岁破西突厥的达头可汗有功，不但没有赏赐，反而因罪被杀，我是绝对不会做这样的蠢事的。于是下诏任命李靖左光禄大夫，赐绢千匹，加封食邑五百户。
过了不久又对李靖说：“前有人谗公，今朕意已悟，公勿以为怀”，就是说以前有人陷害你，我已经醒悟了，希望你不要介意（皇帝当面向臣子道歉，实在是罕见）。于是又赐绢二千匹，拜尚书右仆射（杨素的预言成真了，不过是左右的区别，而且来得晚了一点）。
李靖坐到了相当于宰相的高位，却非常谨小慎微，不肯轻易参与政治争分，多年的历练李靖深知政坛上的风险比战场上还险恶，因此到了贞观八年（634年）十月他上表以健康理由要求辞职。
但李世民要求他“纵有疾病，犹自勉强”不准辞职只准他放长假修养，并赐予他豪宅宝马与诸多财物，而且还三天两头跑到李靖家里去研究讨论政事，也不想想一个皇帝老往人家里跑，让人怎么休假啊。
就这样，李靖担任起中顾委委员的职务，渐渐要淡出历史舞台了，可谁想这时候冒出了房遗爱这个非要拜师的小子，李靖磨不过他，就真收了他当弟子，可是还没等教上一年，就又来了战事，李靖清楚皇上是有意让他去的，他天天教房遗爱那小子，也不好继续在家装病，便去了房玄龄府上，让他给皇上带话，说是：“靖虽年老，固堪一行”。
这一年李靖已经65岁了，身处高位他已经没什么可争的了，军权他更是一早就放下了，不过为了这个国家，他任然义无反顾的去了，而战事也一如既往的胜利了，就在民众都十分崇拜他的时候，长安又来了麻烦。
李靖一回来，他的部下岷州都督高甑生就密报他拥兵自重，意图谋反。这个罪名比上次的私分战利品要严重多了，李世民因此又大大地查问了一番，后来终于发现，原来这个高甑生在跟随李靖进攻吐谷浑时曾因违反军纪被李靖处分，为泻私愤才诬告李靖。
事件的结果当然是诬告者被从重处罚，而李靖也从此闭门不出，以示再不理世事。
为了不让李靖的军事才能白白浪费，李世民派了心腹侯君集到李靖处向他学习兵法。不久侯就向李世民抱怨，说李靖只挑些基本知识传授，请教他高深些的就不肯教，说不定是有什么贰心。
李世民找了李靖要他解释，李靖答复说，我教给侯君集的部分已经足以安定国内震慑四邻，侯君集一再要学更高的东西，只怕侯才真是有贰心。
看来李靖的确与谋反嫌疑有缘，就算是闭门不出了，仍然要被人告谋反，不过从李靖的反击来看，他对这种暗箭已经是应付自如了，大概也是久病成医。
当然李世民没有因为李靖而去追究侯君集是否有贰心，不过事实证明李靖是正确的，侯君集后来密谋杀李世民拥立太子李承乾即位，他哪里斗得过李世民，最后事泻被杀，这应该也算一种黑色幽默。
而对于房遗爱这个弟子，他还