Гунданы существовали только в мирное время — они несли гарнизонную службу. Во время войны несколько гунданов образовывали армию (итигун), которой командовал воевода (сёгун). Выделялись малая армия (сёгун) — от 3000 до 4000 человек, средняя армия (тюгун) — от 5000 до 9000 человек, и большая армия (тайгун) — от 10000 человек и выше. Вместе тайгун, тюгун и сёгун образовывали «три армии» (сангун). Сангуном командовал великий воевода (тайсёгун). При выступлении в поход император жаловал тайсёгуну особый меч - сэтто в знак его полномочий и власти над жизнью любого из его подчиненных.

Система гунданов практически прекратила свое существование в IX-X веках, когда власть в стране начала переходить от императора и императорского двора к региональным правителям, каждый из которых обзаводился собственной армией.

Во времена Сэнгоку Дзидай (Гражданских войн) у каждого князя (даймё) была своя армия. Основу этой армии составляли подчиненные даймё самураи, каждый из которых приводил с собой отряд. Размер отряда определялся богатством самурая. Армия даймё состояла из трех частей: сакиката-сю, куни-сю и дзикисидан. В число сакиката-сю входили недавно побежденные противники, успевшие доказать свою преданность новому господину, но еще не вошедшие в «ближний круг». Куни-сю («сельские отряды») образовывали разорившиеся самураи и пехотинцы, собранные по деревням в ходе рекрутского набора. Наконец, дзикисидан составляли собственно войска даймё. В их составе находились: госинруй-сю («члены семьи»), го фудай каро-сю («наследственные вассалы и ближайшие сподвижники»), асигару-тайсё («командующие пехотой») и хатамото сёякунин («личные помощники правителя») в число которых входили как писцы, администраторы, врачи, повара и ветеринары, так и посыльные и знаменосцы, с помощью которых даймё отдавал приказы своим войскам, а так же личная охрана правителя.

В бою все войска, находившиеся под началом даймё, разделялись на кавалерию (самураи) и пехоту (асигару). Разумеется, у каждого всадника были и обслуживающие его пешие слуги, сражавшиеся наравне с прочей пехотой.

Командная иерархия самураев была весьма сложна и запутана, поскольку основывалась на системе личных взаимоотношений, древности родов и близости к правителю.

Иерахия асигару была существенно проще. Выше всех стояли генералы (асигару-тайсё), под командованием которых находилось несколько сотен пехотинцев и несколько десятков приданных к пехоте конных и пеших самураев. Основной функцией пехоты была стрельба из луков и аркебуз. Подразделениями стрелков командовали капитаны (асигару-касира) — под их руководством находилось от 50 до 1000 пехотинцев.

Подразделения асигару делились на отряды (бунтай), каждым из которых командовал лейтенант (асигару-ко-касира). Обычно под командованием одного капитана находилось два-три лейтенанта. Именно они осуществляли непосредственное управление пехотинцами на поле боя.

После Реставрации Мэйдзи, во второй половине XIX века, армия была полностью перестроена и реформирована по европейскому образцу. В дополнение к уже существовавшим сухопутным войскам (Рикугун) у Японии появились мощный военный флот (Кайгун) и подразделения морского десанта (Кайхэйтай). В последующем к армии и флоту добавились ВВС (Кугун).

В 1872 году в армии и на флоте было введено новое для Японии воинское звание и титул - маршал (гэнсуй) (иногда переводится как фельдмаршал). Впервые оно было присвоено Сайго Такамори в 1872 году. Однако в мае 1873 года была проведена реформа воинских званий и звание маршала было упразднено, а Сайго стал генералом. 20 января 1898 года было принято «Установление о маршалах» вновь вводившее понятие маршал, но уже как титул. Получившие его сохраняли воинское звание генерала или адмирала, но получали право носить маршальскую эмблему и самурайский меч во время участия в церемониях (в современных японских вооруженных силах звание маршала отсутствует). В дальнейшем некоторые маршалы получали титул посмертно. По отношению к званию маршала существовало высшее воинское звание — дайгенсуй (генералиссимус), которое носил император Японии.

После поражения во Второй мировой войне императорские вооружённые силы были распущены, а военные заводы и учебные заведения закрыты. Однако в условиях начавшийся так называемой «холодной войны» США и их союзникам по блоку NATO было выгодно иметь вблизи восточных границ СССР военный противовес. Поэтому в послевоенные годы началось воссоздание Вооруженных Сил Японии, трактовавшееся как создание средств защиты от агрессивного коммунистического блока СССР и Китая. Так родились Силы Самообороны Японии, по сути, являющиеся профессиональной армией с соответствующей подготовкой.