日本侵略東北後，很快就盯上了這些俄國人。
日本人設立了壹個所謂的“俄國外僑事務局”，負責登記和審查居住在中國東北的俄國僑民，並對這些流亡者進行監督。
因為俄羅斯戰鬥民族能善戰，所以日本人也希望從俄羅斯僑民中開辟更多的軍隊，尤其是在第二代俄羅斯僑民已經長大的情況下。他們都出生在中國，很多人會說中文，管理起來更方便。
當時的僑民中還有帝國東正教會、遠東軍協等組織，都是有槍的，而且大多是前沙俄時代的軍官。
日本人吸收了這些組織，並招募了大量的俄羅斯僑民。1937年，他們組建了壹支俄羅斯小分隊，駐紮在哈爾濱附近的第二松花江站，有2000人。所有的士兵都是俄羅斯人，但分遣隊隊長是日本人淺野長晟，所以這個分遣隊也被稱為“淺野長晟分遣隊”。直到1944，這個單位是由。
這支俄軍分隊最鮮明的特點就是有壹支400人的哥薩克騎兵隊伍。在壹次巡邏中，他們意外地遇到了壹支蘇聯紅軍騎兵部隊，這導致了世界軍事史上壹次非常有趣的遭遇。穿日本軍服的都是金發藍眼的白人，穿蘇聯軍服的都是黑頭發黃皮膚的黃種人——那支蘇聯紅軍部隊就是蒙古人組成的。
結果哥薩克騎兵殺光了所有蒙古騎兵，只殺了1人。
這場戰鬥讓日本人更加確信武裝俄羅斯僑民是正確的選擇。
特別是這支俄國支隊，對中國人很殘酷，對日本人就更放心了。
然而，這支部隊的命運非常悲慘。1945年，日本關東軍預感到蘇聯會大規模進攻，於是下令將淺野長晟支隊改編為勞動力，放下槍，只做後勤。其中壹支駐紮在蘇聯邊境附近的小分隊也被日軍全殲。
後來幸存下來的淺野長晟支隊老兵都沒有好下場，被蘇聯人以叛國罪送去遠東勞改。