七日正午，李舜臣发现巨济岛玉浦泊有倭寇海军战舰五十余只，遂率领舰队直冲倭寇舰队，双方随即在巨济岛附近展开激战。
由于朝鲜海军在接战前发射的“棒火矢”，倭寇舰只中有二十六艘当场被焚，前来支援的大型舰只也被击沉了五艘。
当日激战至落幕，双方只得收兵。第二天再战，李舜臣所部又击沉倭寇海军大型舰九艘，中型舰四艘。倭寇一看，损失过于惨重，若不及时撤离，恐有全军覆没之虞，因此只得仓皇逃窜。
玉浦海战，是朝鲜军自倭寇侵入以来的第一次胜利，同时也是倭寇入朝以来的初次失利。
倭寇颇不甘心，加之在玉浦海战中，朝鲜海军的秘密武器龟甲舰并没有投入战斗，所以，倭寇感到朝鲜海军也没有其他什么利器，初战失利，只不过是因为本方轻视的缘故。因此，倭寇海军决心与朝鲜海军再次决战，以决雌雄。
五月二十九日，李舜臣率领战舰二十三只驶向泗川洋面。倭寇海军战舰十三艘与倭寇陆军炮火联合进攻朝鲜海军，双方炮火十分激烈，战况也是极为惨烈。
此番战斗，倭寇是下了决心要与朝鲜海军决战的，因此准备也是非常的充分。李舜臣被迫将龟甲舰投入战斗，而他本人也在指挥作战时左肩负伤。
此战，日舰十三艘被全部击沉，而朝鲜海军则全身而退。
六与初二，李舜臣在唐浦再次与倭寇会战，日战舰二十一艘，其中大舰如板屋船者九艘，中小船只计二十一艘。在倭寇的战舰中，有一战舰高达三、四丈，外垂红罗帐，四面大书黄字，中间坐一倭寇将领。
李舜臣立即放出龟甲舰直冲大穿，火炮齐发，当场击毁了该舰。红罗帐下的倭寇将领立即毙命，其余战舰悉被焚毁。
战争结束后，从被击毁的红罗帐战舰上，拾得写有“太阁秀吉”字样的金团扇，方始知道该倭寇将官为九州大名龟井真矩。
六月五日，李舜臣消灭了加藤部下的海军战舰三十三艘，六日与倭寇海军名将来岛通久舰队交战，全歼该舰队，当场击毙了来岛通久。
倭寇海军的接连惨败，令倭国上下极为不满。倭国海军主将胁板安治立刻赶到倭寇海军大本营，统率战舰精锐，寻找李舜臣舰队，试图与其决战。
胁板率领七十艘战舰为第一队，九鬼嘉隆率领四十战舰为第二队，加藤嘉明率领三十只战舰为第三队，排开阵势，企图一战消灭李舜臣海军。
七月八日，李舜臣率领朝鲜海军于巨济岛发现了胁板安治的日海军第一队，遂以计诱使日海军出战，将胁板舰队引到闲山岛海面，双方展开战斗。
此一战，倭寇舰只被毁三十九只，胁板安治本人几乎丧命。
十日，九鬼嘉隆的第二队和加藤嘉明的第三队，感到自己的兵力过于分散，很容易被对方分而歼之，于是就将他们所属的两支舰队在加德岛合流，试图合力与李舜臣舰队作战。
九鬼嘉隆的旗舰高三层，四周插满三曾锦旗以避弓矢。李舜臣再次试图以计将日海军诱出决战，但九鬼接受胁板的教训，不愿意离开加德岛，只依山傍水地利用地形与李舜臣游斗。
李舜臣遂令水军上陆，两面夹击，终于击沉了九鬼的旗舰日本丸，当场焚毁了四十二艘战舰。
战斗一直持续到深夜，双方因为天黑，虽然僵持混战在一处，但到底是不敢彻底放开手脚，遂有意识的逐渐脱离战场。各自撤离加德岛战场之后，损失了几乎全部海军战力的倭寇遂于夜间逃走。
这第二次海战，是朝鲜和倭国双方海军的决战。此后倭国海军精锐几乎被全歼，因此制海权完全操于李舜臣。
倭寇陆军的加藤清正部虽然已经进军至咸镜北道，但因为丧失了制海权，使得运输无比困难，迫使倭寇停止于平壤一线，不敢再向前推进。
李舜臣与日本海军的决战，历史学家有下述评论：这一战，宣告了丰臣秀吉侵略朝鲜行动的终结，以及其征服大明王朝的宏伟计划是多么的可笑，是多么的不自量力。
此次战后，战争虽尚持续了数年，但那不过是为了安抚丰臣秀吉失望的野心而进行的战争而已。李舜臣海战的胜利，对全朝鲜抗击倭寇的义兵斗争，予以巨大的鼓舞，义兵运动得到迅速的发展。同时，悲观失望的朝鲜国王及政府官吏也受到鼓舞，打败倭寇的信心也是同时高涨。仁祖李倧拜李舜臣为三道水军统制使，总督三道水军。
其实，李舜臣海战的获胜，只是打掉了倭寇的一条腿，真正将倭寇彻底击败的，是大明王朝的援朝大军随后的加入。
倭寇入侵朝鲜时，大明王朝东南半壁河山的倭患刚刚肃清不久，沿海农、工、商业只是略有恢复和发展，大明朝廷因倭寇受到损伤的元气尚未得到充分恢复。而与此同时，西北边境的宁夏李拜父子又乘机起兵反抗。大明朝廷自顾不暇，自然无法及时出兵援助朝鲜。
万历二十年（公元1592年）四月，明政府派李如松提督赴西北镇压李拜父子，战事至七月未能结束。因此，辽东和北京一带明兵兵力减少，抽不出援朝兵力。因此，明神宗对朝鲜国王宣祖的求援一直忧郁不决。同时明朝廷的官吏也因之分为只加强辽东防务的主守派和主张立即出兵的主战派。
其中主战派的意见具有比较充分的说服力。主战派中的一个代表人物是宋应昌，他上疏说：关白（即指