尽管日军的防御态势已经相当不利，但日军仍依托工事死战不退，尤其是陆战5师面对的是由栗林直接指挥的部队，遭到的抵抗更为激烈，陆战5师的伤亡超过75%，许多战斗部队失去了战斗力，师部的文书、司机甚至炊事员等勤杂人员都投入了战斗。
3师、4师的伤亡也很严重，出于这种情况，陆战4师师长克利夫顿.凯兹少将向粟林忠道中将和硫磺岛日军中战斗力最强的第145联队队长池田增雄大佐发出劝降信，信中首先向他们无畏精神和英勇作战表示了尊敬，接着说明了无法取胜的处境，最后要求他们指挥所属部队停止抵抗，美军将根据《日内瓦公约》保证投降的日军受到人道待遇。但劝降信如同石沉大海，没有回音。
3月16日，东北部的800余日军被歼灭，美军于当日18:00时宣布占领硫磺岛，但战斗仍在继续，粟林指挥残部依然在抵抗，有时战斗还相当激烈。败局已定，同日，栗林中将命令步兵第145联队长池田大佐烧毁军旗，并向东京大本营发出诀别电:“面对数量和质量占优的陆海空攻击，卑职已尽全力，然现在险要尽落敌手，卑职万分抱歉”。然后销毁密码，准备实施最后的决死反击。
3月17日，日军大本营晋升栗林为大将军衔，以表彰他的英勇作战。同日粟林对残余部队下达总攻击指令:一、战局已无可挽回。二、兵团于17日晚上发动总攻击。(实际上17日晚并没有发起总进攻，而是等到了26号清晨。)三、各单位于本夜午时，向各方面的敌军进攻，战到最后一兵一卒。四、我将一如往常在诸位前头。
陆战三师师长厄金斯少将找到两名日军战俘，给了他们很多干粮，还配备了一部最新式的报话机，然后让他们给栗林和池田带去劝降信。这两名战俘将劝降信设法交给了池田的传令兵，但到了规定的时间期限，日军仍未投降，这两战俘为美军的人道主义待遇所感动，竟留在日军防线里，通过报话机为美军炮火指引目标，一直到18日才返回美军战线。
从16日美军宣布占领硫磺岛后又经过整整一周的激战，24日美军才将残余的日军压缩在岛北部约2100平方米的狭小范围里。
3月25日，栗林派人设法通知岛上每一个人，于夜间携带武器在三号机场附近的山区集合。
3月26日凌晨，栗林忠道亲自率领约350名日军向二号机场的美军发起了最后反击，许多美军在睡梦中被杀，天亮后，美军组织扫荡，四处追杀这股残余日军，激战三小时，将这股日军大部歼灭，日军仅遗留在美军阵地前的尸体就有250具，栗林负伤后在岛上剖腹自杀，美军伤亡172人。
美军于当天9:00时宣布硫磺岛战役结束，但残余日军的战斗一直持续到4月底。
硫磺岛的日军在殊死抵抗的同时，日本海军联合舰队由于主要的水面舰只在菲律宾莱特湾海战中损失殆尽，残余军舰因为燃料不足，也无力组织救援。能够出动增援的就只有岸基航空兵和潜艇部队了，但岸基航空兵的第一、第二航空舰队基本丧失了战斗力，第三航空舰队还在训练中，而且是准备在本土保卫战中使用，因此，日军大本营决定尽量避免损失，只以少量飞机和潜艇实施“特攻作战”，以最小代价换取最大战果。
2月19日，日军在香取基地成立了以自杀飞机为主体的“第二御盾特别攻击队”，专门担负特攻使命。
2月21日，这支特攻队转场至八丈岛，于中午加油完毕，分批出击。17时许，第一攻击波的6架自杀飞机飞临美军在硫磺岛西北35海里正准备执行夜间空中巡逻任务的萨拉托加号航母上空，日机随即展开攻击，有4架被击落，另2架接连撞上这艘航母，使该舰受伤起火，所幸伤势不重。
18:50分，萨拉托加号的水兵刚把舰上的大火扑灭，日军第二攻击波5架自杀飞机就接踵而至，前4架均被击落，第5架虽被击伤，仍一头撞上萨拉托加号，在航母甲板上翻滚着落入海中，给母舰造成了多处创伤，被毁飞机42架，舰员阵亡123人，伤192人。只是因为舰上损管人员抢修得力才幸免沉没，终因伤势太重而奉命撤出战场，随即回国进坞大修，直到战争结束再未能参战。
与此同时，日军神风敢死队的自杀飞机还攻击了硫磺岛以东的美军舰艇，一架日机撞上了“俾斯麦海”号护航航母的后升降机，并在机库里爆炸，立即引爆了机库里的飞机，大火迅速蔓延，很快波及到了弹药舱，引发了大爆炸，舰长见无法挽回，只得下令弃舰。该舰燃烧了足足三小时，才沉入海中。舰上水兵伤亡约350人。
被日军自杀飞机击伤的还有隆加角号护航航母、477号和809号坦克登陆舰、基厄卡克号运输船。日军除组织自杀飞机的攻击外，还以潜艇实施特攻作战。
2月19日，日寇以伊-368、伊-370、伊-44各携带五条、五条和四条人操**，组成代号为千草的特攻队，于2月20日、21日、22日分别从濑户内海的大津岛潜艇基地出发，前往攻击硫磺岛海域的美军舰队。
2月23日，又命令16日从吴港出发原定前往琉球群岛活动的吕-43号潜艇改往硫磺岛攻击美舰。
2月26日，到达硫磺岛海域的伊-368号和吕-43号被美军舰载机击沉，伊-370号则被美军的驱逐舰击沉。伊-44号多次向美舰接近，都受到美军反潜舰只的有力压制，无法占据人操**的出发阵位，只好返航，回日本后艇长因未完成任务而被撤职。
2月28日，日军又以伊-58号和伊-36号潜艇各携带四条人操**组成代号为神武的特攻队，分别于3月1日和2日从吴港出发，但到了3月6日，日军统帅部见硫磺岛大势已去，这才命令在硫磺岛海域活动的潜艇全部撤出。