1937年抗戰(zhàn)全面爆發(fā)后，隨著世界反法西斯戰(zhàn)爭形勢的發(fā)展和中蘇交往交流的不斷增加，中共中央和軍委決定在延安抗大三分校組建俄文隊，培養(yǎng)一部分俄語專業(yè)人才。

方案確定后，就在延安和陜甘寧邊區(qū)范圍內(nèi)招生，基本上采取自愿報名和組織選送相結(jié)合的方式，吸收渴望學(xué)習(xí)俄語的知識青年。俄文隊的住址在延安城東門外清涼山東麓的一個小窯洞內(nèi)。1941年3月，開始接收新生，到了5月初，陸續(xù)報到的學(xué)員人數(shù)逐漸增加到60余人，正式成立俄文隊，進(jìn)入抗大三分校的編制序列。

1941年6月初，俄文隊正式開課，曾經(jīng)在蕭三創(chuàng)辦的延安文化俱樂部業(yè)余俄語班學(xué)習(xí)過的學(xué)員編為一個班，行政上叫做第一區(qū)隊。另一部分學(xué)員原來沒有學(xué)過俄語，編為一個班級，行政上叫做第二區(qū)隊，學(xué)員從俄語的字母發(fā)音開始，逐漸進(jìn)入單詞，要求熟讀、牢記、能背誦。這兩個區(qū)隊被稱為俄文第一隊。

1941年七八月間，從前方戰(zhàn)斗部隊中抽調(diào)回一批具有中學(xué)文化程度的連、排級干部，約30多人，到俄文隊學(xué)習(xí)，編為第三區(qū)隊。后中央軍委繼續(xù)抽調(diào)干部到抗大三分校俄文隊學(xué)習(xí)，學(xué)校決定成立俄文第二隊。

此外，中共中央軍委還在安塞縣籌備成立航空工程學(xué)校，準(zhǔn)備訓(xùn)練飛行員和機械士，擬請?zhí)K聯(lián)派人來授課，因蘇德戰(zhàn)爭爆發(fā)，不可能派人到中國，軍委決定航空工程學(xué)校停辦，校長王弼率學(xué)員數(shù)十人，調(diào)到抗大三分校，成立了俄文第三隊。

到1941年10月，上述三個區(qū)隊被合并為俄文大隊，學(xué)員達(dá)300余人。

1941年12月1日，中共中央決定對抗大第三分校進(jìn)行整編，改名為延安軍事學(xué)院，八路軍總司令朱德兼任院長。軍事學(xué)院由指揮隊、炮兵隊、參謀隊、俄文隊、工程隊五部分構(gòu)成，其中俄文隊由抗大三分校的俄文大隊整編而成，工程隊由抗大三分校的原俄文三隊編成。

朱德十分重視俄文隊的工作，明確指示：為了適應(yīng)抗日戰(zhàn)爭形勢發(fā)展的需要，培養(yǎng)的學(xué)生要成為通曉俄語，能會話，能實際運用的軍事翻譯人才。為此，他要求在課時安排上，俄文課課時占80%，政治課占20%，保證學(xué)員以學(xué)習(xí)俄語為主。學(xué)員們在半年內(nèi)先后學(xué)習(xí)了俄文文法、日常生活會話等課，初步打下了俄語學(xué)習(xí)的基礎(chǔ)。

俄文隊的教學(xué)組織分為五個班級，每個班級有學(xué)生30人，在行政編制上，一個班級就是一個區(qū)隊，所以俄文隊下屬五個區(qū)隊，各區(qū)隊長由學(xué)員擔(dān)任，不脫離學(xué)習(xí)，同時兼管軍事行政與俄語學(xué)習(xí)事務(wù)。

后來又增設(shè)了一個女生區(qū)隊，共有女生20多名，學(xué)習(xí)上課時，根據(jù)俄語程度，分別參加到其他五個班級（區(qū)隊），生活上單獨編在一起，叫做“第六區(qū)隊”。

軍事學(xué)院的教學(xué)工作系統(tǒng)設(shè)有俄文科，由教育長直接領(lǐng)導(dǎo)。需要說明的是，俄文隊和俄文科是兩個平行單位，前者主管行政、黨務(wù)、軍事工作，后者負(fù)責(zé)俄語專業(yè)的教學(xué)工作。

1942年6月，抗大總校從晉東南抗日根據(jù)地返回陜甘寧邊區(qū)，延安軍事學(xué)院的領(lǐng)導(dǎo)機關(guān)和抗大總校合并，移居綏德。中央軍委決定把俄文隊留在延安，成立俄文學(xué)校。軍委總參謀部的第四局（編譯局）與俄文隊合并，總參四局局長曾涌泉同志擔(dān)任俄文學(xué)校校長。

1943年4月，中央為了集中力量培養(yǎng)俄語人才將延安大學(xué)俄文系也轉(zhuǎn)到軍委俄文學(xué)校。

1944年，美國派了一個軍事觀察組住在延安，鑒于形勢發(fā)展的需要，中共中央和軍委決定把俄文學(xué)校改名為軍委外國語學(xué)校，增加英文專業(yè)，培養(yǎng)英語人才。

1945年抗戰(zhàn)勝利后，中央和中央軍委決定將抗大等幾所著名學(xué)校從陜北遷至東北，其中包括把延安外國語學(xué)校遷至哈爾濱。