日俄战争之后，有部分顿河马被日本陆军收编，加入了日军。但是大部分被用来与日本国产马配种，配出来的混血马也不是被骑兵部队所使用。而是被配属到步兵、炮兵、辎重兵以及宪兵队使用。满洲国以及后来的德王傀儡政权，所谓的伪满蒙骑兵也是以蒙古马为中心

形成战斗力的，当然这也不算是日本陆军骑兵编制之内了。日本骑兵的战马非常重视马的血统。每一匹战马都有自己的身份证，注明马的生日、血统等等。日本的军马大多是去势的。

日本陆军骑兵所用的马鞍、马镫等马具随着日本军用马种的改良而同时进行。明治初年日本陆军最初的步骑炮三军诞生之时，便立刻购入了法国轻骑兵的骑兵马鞍以及匈牙利马鞍用于骑兵部队的训练和建设，并且准备以此为参考制造日本国产的骑兵马鞍。但是这些外国马鞍引进没多久就暴露出不少缺点。

首先，欧洲各国骑兵所使用马匹的马种和当时日本国产马种的体格以及体质不同，再加上东西方骑兵们自身的体格也不相同。义和团之乱（日本称之为“北清事变”）时，日本出兵参加八国联军共同占领北京。和其间各列强的骑兵部队相比，日本陆军骑兵所使用的马匹被各国骑兵嘲笑为“像老鼠般弱小”。当时日本陆军国产战马的确体格矮小体质羸弱，适合欧洲骑兵战马用的大型马鞍显然不是很适合日本战马。不仅日本骑兵们坐在洋式马鞍上屁股不舒服，而且大型的洋式马鞍在矮小的日本战马背上实在放不符贴。陆军上层没有对此视而不见，在明治天皇的亲自授意下成立了骑兵马具改正取调委员会，迅速着手改进骑兵的马具。1897年（明治30年）研制成功的骑兵马鞍使用了制式化时的年号，被称为“三〇年式军鞍（骑兵马鞍）”。三〇年式骑兵马鞍最早用于日俄战争。这适合东方人矮小身材的骑兵马鞍在派往中国东北的日本骑兵中因方便长途骑乘而受到了广泛好评。使用此骑兵马鞍的日本骑兵在和俄国哥萨克骑兵仅有的数次交手中均表现出色，未占下风。 三〇年式骑兵马鞍虽然是难得的杰作，但是经过日俄战争的实战之后也暴露出不少缺点。三〇年式骑兵马鞍是设计用于野战的，马鞍基本上被固定在马背上，这样的设计经常会使得马背上磨出血来。仅以活动在日俄战争前线秋山好古骑兵旅团下属的某骑兵连队为例，连队中854匹战马中有357匹因此马背上有鞍伤。1890年研制成功的三三年式骑兵马鞍曾暂时代替三〇年式骑兵马鞍装备前线，但前线官兵终究还是一致认为三〇年式骑兵马鞍比较好。陆军上层便听取了下层官兵的意见，在原来三〇年式骑兵马鞍的基础上进行改良，于1925年（大正14年）研制成功一四年式骑兵马鞍后正式制式化，一四年式骑兵马鞍在稍经改良之后一直使用到二战结束。

为了防止马背和马鞍之间的摩擦，骑兵部队的官兵们都会在马背上铺上毛毯。马鞍桥上挂有鞍囊和旅囊。鞍囊中装的是骑兵们用的必需品，而旅囊中装的则是战马的必需品。通常防寒外套和雨衣也挂在鞍桥上。参加实战的话，还要在旅囊上加上饮水用的水囊和露天宿营用的小型帐篷。除了军官之外，骑兵所有的随身携带物件以及马具（缰绳、马蹄铁等等）等等都必须放在挂在马鞍桥上的鞍囊和旅囊里（军官可以把随身行李交给辎重部队管理）。因此即便是后方的后勤部队不能及时给骑兵部队实施补给，骑兵部队也有能力长时间独立行动。然而战马的负担也因骑兵所携带装备而加重。虽然通常战马携带的装备以及行李的重量被限制在战马体重的三分之一以内，但是战争正式爆发之后骑兵携带武器装备的复杂化使得战马所携行李重量超过了150公斤，这也严重影响了骑兵行动速度和机动性。

骑兵装备还包括骑兵专用的手枪。无论是马上还是步下的近距离战斗中，能够连续射击的手枪起着很大的作用。日本最早的骑兵用手枪是1888年（明治21年）开始开发研制，1894年（明治27年）制式化采用的国产二六年式左轮手枪。日本陆军最初是将手枪配备给军官、下士官以及号手，而日俄战争中装备手枪的只有军官以及曹长级别以上的下士官。

二六年式骑兵用左轮手枪之后被一四年式自动手枪代替。日俄战争中，日本小规模骑兵部队在敌后与俄军遭遇后，装备手枪的日本骑兵在近战中占据了很大的优势。因此便有人萌发了研制将骑兵冲锋时必不可缺的军刀和手枪融为一体的作战武器。这种不知道该称为手枪还是改称为军刀的“怪胎”最终也只停留在实验阶段，日本在其没有制式化被陆军采用之前就无条件投降了。

日本骑兵创建之初是以法国骑兵为样本的，因此最初直接使用黄铜刀柄的法军制式军刀。日本陆军在1897年（明治26年）正式确定军刀的制式，在1899年（明治32年）将其改进后制式化，称之为三二年式军刀。三二年式军刀分为甲、乙两种：甲型三二年式军刀是骑兵专用军刀，骑兵军刀全长102厘米；乙型三二年式军刀是其他兵种士官使用的军刀，全长93厘米。但是甲型三二年式军刀是直接借鉴洋式军刀的成果，刀柄短而导致军刀的重心偏向刀尖，有利于刺而不利于砍或者劈。甲型三二年式军刀其他还有不少缺点，因此日本陆军在1930年（昭和5年）将其改进，试制成了九一式军刀（非骑兵用军刀则暂且不再本篇论述范围内）。

九一式军刀的刀身较甲型三二年式军刀略短，增长了刀柄调整了军刀的重心位置。至此，日本陆军参照或是改进的骑兵用军刀都是带有护手的洋式军刀（Saber）。由于基层士官普遍反映带护手的洋式军刀使用不便，因此日本陆军对其进行了不少改进，生产了少批甲型三二年式改军刀（假制九一式军刀）。骑马的日本骑兵基本上都是在中国战场上活动，使用的绝大数多是没经过改良的甲型三二年式军刀。

和其他兵种有所不同，骑兵身着军服的时候肩上还斜挎一个弹药盒。装骑兵步枪子弹的弹药盒从构造上多年来没有什么变化，然而包括弹带在内还是有不少改进。

九一八事变爆发后不久，对于从事侦察搜索任务的骑兵部队来说，当时现有弹药盒所装的子弹的确是少了一点。为解决携弹量少的问题，骑兵引进了被称为四四式骑兵弹带的新的骑兵用布制弹带。四四式骑兵用布制弹带除了可以携带大量弹药之外还可以额外多带两个手榴弹。就在引进四四式骑兵用布制弹带大约同一时期，为了确保骑兵在长距离行军时的携弹量，日本参考了英国以及法国的骑兵装备，研制了可以绑在马脖子上的“颈弹带”。颈弹带主要用于从九一八事变开始到1940年前后的时期，但是为减少马匹的负担，不可能长时间使用颈弹带。

骑兵长时间背负骑兵用卡宾枪展开行动会使得骑兵的背部和肩膀过于疲劳，从而最终影响骑兵单兵的作战力。为减轻骑兵双肩的负担，才会有骑兵步枪携带行囊的诞生。骑兵步枪携带行囊的制作和设计参考了同一时期德国以及美国骑兵的武器携带背包，不用肩膀背，可以直接挎在腋下。皮制的骑兵步枪携带行囊的试制始于1930年，经改良后在1937年制式化被日本陆军采用。十二年式骑兵步枪携带行囊在卢沟桥事变后全面装备在中国战场的骑兵部队，但是由于实战中步枪携带行囊使用起来相当不便，绝大部分前线部队都自作主张地弃置不用。其他骑兵装备还有轻机枪携带行囊、通信用一○年信号枪等等，但是这些装备绝大多数是用在中国战场，因为骑兵部队也绝大多数在中国战场活动。

侵华战争中的日本骑兵大多是隶属于师团的师团骑兵。其骑兵联队的番号与所在师团的番号相同，如骑兵第1联队隶属第1师团，骑兵第8联队隶属于第8师团，又如驻山西临汾的侵华日军第41师团为侵华战争需要而编成之时，即将原驻日本习志野的骑兵第15联队改为骑兵第41联队。有的师团下辖骑兵大队，如第13、18、第101、第114师团。一些独立混成旅团辖骑兵中队，如独立混成第2、第11旅团下辖独立骑兵中队，又如在21军编成内的近卫混成旅团，下辖近卫骑兵中队。师团骑兵跟随与师团主力转战于各地，作战表现可参见各个师团的历史。但是也没有大规模的行动和作战，采取的作战方式也大多是快速突击、搜索、侦查以及之后的维持治安。有能力单独行动的也只有骑兵集团，其规模相当于师团，下属两个旅团。下面是日本骑兵集团的概要。

骑兵集团（规模达到了师团级别）编成时期：1933年7月（海拉尔）解散时期：1942年10月（包头）。

集团司令部。骑兵第1旅团（骑兵第13、14连队和机枪队）。骑兵第4旅团（骑兵第25、26连队和机枪队）。集团骑炮兵连队、集团战车队、机械化汽车步兵大队、集团辎重队。

1938年6月，骑兵集团奉命前往华北。集团中的骑炮兵连队和集团战车队一分为二，被归到两个旅团里面。另外又增设了旅团速射炮部队。

集团长（实际上相当于骑兵师团长）是中将。最初的集团长是宇佐美兴屋，接下来的历代集团长依次为：莲沼蕃、笠井平十郎、稻叶四郎、内藤正一（这时候从满州前往华北）、吉田直、小岛吉藏、马场正郎、西原一策。1942年10月，随着战车第3师团的建立，以上的基干部队都被解散了。只有骑兵第4旅团保留到战争结束。

抗日战争第2年，拥有强大机动力的骑兵集团出现在华北。参加了汉江攻坚战和五原作战。骑兵集团于1938年8月，在河南省新黄河以北的地区集结完毕。徐州会战结束后，中支那派遣军为了进攻武汉在集结兵力。为了确保现在为止的胜利果实，第2军相当长的时间在华北休整和维持治安。之后第2军南下准备进攻武汉，整个华北地区开始变得空虚起来。骑兵集团得到的命令是佯攻，虚晃一枪后准备横渡新黄河。骑兵集团奉命做好了渡过新黄河的准备后，但是最后命令让其在原地按兵不动。1939年为止，第1旅团在归德地区、第4旅团在开封地区进行了扫荡作战。

1939年2月，骑兵集团被调入驻蒙部队的辖下，担任以包头为中心的广大区域治安的维持。这时候集团中的骑兵第4旅团已被调入第11军，实际上集团中只有骑兵第1旅团，就骑兵集团这个空架子。1940年1月，日本陆军各个兵种都开始机械化，骑兵第1旅团也不例外。其中的骑兵第71连队从华中被调入第1旅团，旅团成为了3连队编制。1月底到2月中为止，骑兵集团配合驻蒙部队，进攻了五原（包头以西约50公里），甚至有一部分攻入宁夏。这也可以说是攻入中国大陆最西面的日军。被机械化的骑兵集团一直作为先锋出现在前线，但是沙漠的严酷的气候让骑兵集团不得不停下脚步。从此在进退两难的困境中，骑兵第1旅团被解体后机械化。最后只有在华中活动的骑兵第4旅团到战败为止保持了全部战马编制的骑兵部队，这也算是日本旧帝国陆军最后的骑兵。

日本伊藤正德在《日本军血战史》一书中扬言：“在中国中南部的战场，自一九四二年以后，骑兵已经完全替代了汽车部队，而在缅甸也同样壮观。虽然骑兵战即将成为历史陈迹，但在世界骑兵战的闭幕中，精彩的谢幕却在中国上演，缅甸之役也是其中一幕。”书中特别提及以藤田茂一少将的骑兵第4旅团，1945年4月的老河口之战，称之为“荣获殊勋”。翻阅日本防卫厅战史室编写的《昭和二十年的中国派遣军》一书中《老河口作战经过》的章节。找到了日军骑兵第4旅团在老河口作战中的表现。骑兵第4旅团骑炮兵第4联队在攻击发起前即遭美军飞机轰炸，“该联队本部干部尽被炸死”。旅团所辖骑兵第25联队进攻老河口北门，遭中国军队顽强抗击，“第2中队长夏目大尉、联队炮中队长锻冶大尉相继战死。联队长做好全部被歼的准备，命令烧毁密码本。傍晚奉旅团命令中止攻击，……支援的独立步兵第30大队两次攻击也告失败。”攻击老河南关的骑兵第26联队，因城墙上中国军队的猛烈射击，“加之汉水对岸的炮击，难以前进，战况呈胶着状态。联队长31日正午奉旅团长命令撤退，脱离困难的战场。……第115师团长杉浦中将令骑兵旅团到后方恢复战力，由第115师团接替攻占老河口”。这么说，骑兵第4旅团老河口之战，并非“荣获殊勋”而是攻击受挫，被撤换下来。