公元219（建安二十四年），刘备军于定军山斩杀曹军统帅夏侯渊。曹操遂亲征汉中，但刘备坚守险要，曹军难以攻克，逃亡的士兵越来越多，不久后曹操只得命令各路军队陆续退出汉中，曹休随军退至长安后，被授予中领军一职。
公元220年（黄初元年），曹丕称帝，曹休升任领军将军，追录前后功勋，封东阳亭侯。大将军夏侯薨后，曹丕任命曹休为镇南将军，假节都督诸军事，接替夏侯屯驻汝南郡召陵县，负责抵御孙权。曹休赴任前，曹丕车驾亲临，还下了銮舆与曹休执手送别。当时孙权派遣将领屯驻历阳，曹休到任后，立即率军将之击破，又另遣兵渡江偷袭，烧掉了吴军设在芜湖的军营数千家。于是迁为征东将军，兼领扬州刺史，进封安阳乡侯。[6]?后曹休之母去世，曹休本是至孝之人，因此悲痛不已，守孝期间饮食不进。曹丕知道后命令侍中强行脱下他的丧服，诏令其饮食酒肉。曹休受诏后不得已进行饮食，但形体却越发憔悴。之后向曹丕告假请求归还故乡谯县葬母，曹丕又遣越骑校尉薛乔奉诏来劝慰其不要过度忧哀，于是让曹休归家治丧。曹休只一宿便完成了葬礼，然后马上又归还岗位。
公元222年（黄初三年），曹丕亲征，兵分三路讨伐孙权，任命曹休为征东大将军，假黄钺，督前将军张辽、镇东将军臧霸、豫州刺史贾逵等及诸州郡二十余军从西线出击洞浦，另有上军大将军曹真进攻江陵、大将军曹仁从东线出击濡须口。东吴派遣建威将军吕范指挥五路大军，以水军的优势抗击曹休。曹休当时壮志满怀，盼望建立功勋，于是上表说：“臣愿率领精锐之师即刻渡江，大军虎步踏平江南，从敌人那里夺取粮草补给，则一定可以取得胜利。如果臣殒命疆场，请陛下不要挂念。”但臧霸等人不愿孤军犯险，曹丕也没有准许，因此计划搁置。
不久后，暴风正好吹断了吕范船队的所有缆绳，被吹散的吴军船只纷纷漂到曹休等人的营垒前，曹休趁机下令出战，斩杀吴军数千，取得大捷。曹丕于是下令曹休的军队立即渡江，但东吴的救援船队很快开至，收拢了散卒后退还江南。曹休命令臧霸率领万余人乘轻船五百追击，攻袭徐陵，杀略吴军数千人。随后，吴将全琮、徐盛率军反击，攻破魏军，追斩魏将尹卢，杀获数百。由于当时三路大军中除曹休取得大捷外，曹仁在濡须口失利，曹真则在江陵未取得实际战果，因此曹丕下令撤军。曹休被拜为扬州牧，屯驻东南边境防止东吴进犯。
公元226年（黄初七年），曹丕驾崩，曹休与镇军大将军陈群、中军大将军曹真、抚军大将军司马懿四人受遗诏辅政，魏明帝曹即位后，进封长平侯。当时吴将审德屯驻皖城，曹休将其击破，斩杀了审德，收降了吴将韩综、翟丹等人。遂增邑四百，并前二千五百户，迁大司马，成为曹魏军队的最高统帅，都督扬州如故。
公元228年（太和二年），东吴的鄱阳太守周鲂按照吴王孙权的主意，佯称得罪了吴王，要弃吴投魏。曹休于是率领骑兵、步兵共计十万往皖县（今安徽省潜山县）去接应周鲂。魏明帝另外派遣贾逵督前将军满宠等四支军队由西阳直攻东关，司马懿领兵进攻江陵。尚书蒋济向魏明帝表示驻守于上游的吴将朱然可能会从曹休后方袭击，而吴军亦可能随时会东进切断曹休退路，建议派兵救援曹休。
魏明帝诏司马懿停止进军，让贾逵东进与曹休合兵一处。琅邪太守孙礼也劝谏曹休不可孤军深入，但此曹休立功心切，没有听从。遂进至石亭，在那里遭遇到陆逊、朱桓、全琮共约九万人的突然袭击，曹休没有防备，初一交战不利后便慌忙退兵。曹休之前的行军路线背靠湖泊、旁依大江，在退却时行军受阻而十分缓慢。吴军在其后紧追不舍，魏军无心应战，被斩杀万余，丢弃军械车马无数。曹休突围至夹石，但此处退路已被孙权阻断。曹军士卒前无无退路、后又追兵，惶恐之下陆续叛逃，曹休的人马几乎已经溃不成军。此时，贾逵所部的援军经过备道兼程的挺进后及时出现在夹石，吴军以为魏国救援大军已经来到，于是迅速撤离战场。贾逵其后又拿出粮食和军资供应曹休的军队，才使曹休免于全军覆没。
其后，曹休上书谢罪，魏明帝遣屯骑校尉杨暨宣旨抚慰，礼节赏赐更加隆重。曹休惭狠不已，因此痈发与背，不久即薨，谥曰壮侯。子曹肇继嗣。
公元243年（正始四年）七月，魏帝曹芳下诏祭祀已故大司马曹休、曹真、征南大将军夏侯尚、太常桓阶、司空陈群、太傅钟繇、