1932年8月31日，石井四郎和他从小长大的朋友增田知贞以及4名助手、5名雇员随行，到东北花费了一个多月的时间，跑遍了整个东北。
目的是要在东北选择建立细菌研究基地的地址，之所以选择东北，要是考虑在中国东北容易得到细菌研究的“材料”——活人；
另外，东北靠近苏联，气候也与其相似，一旦与苏军交战，可以直接地实施细菌攻击。 [
但在具体地点的选择上发生争执，关东军的石原莞尔主张设在牡丹江，而石井四郎却执意要建在“北满”的最大城市哈尔滨。
最后，石井四郎的主张得到了日本大本营的支持。同时，石井四郎的细菌战计划，也得到了关东军的大力支持。
关东军高层认为细菌战能起着击败苏军的重要作用，细菌战将成为抵消日军在对苏作战中兵力上的劣势。
1933年8月的一天，石井四郎命令日军在哈尔滨市南岗区宣化街与文庙街交叉口一带，撵走了当地的商店主、职员和居民，秘密设立了细菌研究所（石井部队），密称“加茂部队”，取名“加茂”，是源自石井的家乡名称。
此外，这支臭名昭著的细菌部队还常冠名为“东乡部队”，这是因为石井四郎十分崇拜在日俄战争中的东乡平八郎元帅，而且石井本人采用的别名也为“东乡大尉”，细菌部队基地里的宿舍区称“东乡村”，神社称“东乡神社”。
尽管石井四郎采取了极为严格的各种保密措施，但是，如果在像哈尔滨这样的大城市里实施大规模的人体细菌实验，显然有诸多不方便。
石井四郎对此早有考虑，他选中了距哈尔滨市7公里以外的五常县背荫河镇。在石井四郎看来，此地不但交通方便而且又较为隐蔽，是作为大规模进行人体细菌实验场所的理想地址。
1933年秋，“加茂部队”派黑田大尉在黑龙江省五常县背荫河圈定了5多平方千米的地盘，在附近村屯强征近千名劳工和几百辆马车，日夜不停地修筑“兵营”。不到一年时间，便建成了约1栋的砖瓦房。“营区不仅有营舍，还有到背荫河火车站的专用线和飞机场。
关东军参谋远藤三郎视察这里时，说：“初具规模达6平方米的大兵营，令人产生一种好似要塞的印象。
这虽然是他们努力的结果，2几万元的经费开支看来还是值得的。”而石井四郎本人也成为了有可他直接指挥的三百多人的细菌部队部队长。
背荫河细菌实验场不仅中国人不许靠近，就连火车经过背荫河车站时，也要放下车窗帘，严禁旅客向车外探望。细菌实验场的日本人员很少外出，并都使用假名。即使与国内家属通信，也经过关东军的审查。
背荫河细菌实验场完全成为了与世隔绝的军事要塞。背荫河细菌实验场因派了一个名叫中马的大尉管理“兵营”，不知底细的当地老百姓都称这座神秘的“大兵营”为“中马城”。在“中马城”营区中央是监狱和人体实验的综合设施。监狱是按关押1人的规模建造，通常关押着5——6人。牢房很小，“犯人”几乎总是戴着手铐和脚镣。每个被囚禁的人平均3天——5天内采血5左右，采血从未停止过。等囚徒衰弱不再具有“研究价值”便注射毒液或枪杀，然后进行解剖，最后送到焚尸炉焚烧灭迹，焚尸炉由化名细谷的石井四郎的二哥石井刚男负责。
石井四郎在背荫河进行的细菌人体实验重点，放在炭疽、鼻疽、鼠疫和霍乱三四种的接触传染病病菌上；
此外，还利用人体进行毒气瓦斯、毒液实验；同时以人体为“材料”来进行冻伤实验。
时任关东军参谋长的冈村宁次曾到背荫河视察，对冻伤实验尤为关注，因为关东军在中国东北镇压抗日武装及日后与苏军作战时，面临的严重问题便是严寒下冻伤威胁。
视察后，冈村宁次给上司的报告书中写道：“冻伤最好的治疗方法是在37摄氏度的水中浸泡”，这一发现是“根据使用人体用各种方法经过反复的试验所获得的宝贵的数据而得出”。
“中马城”从1933年下半年复合设施还没完成，石井四郎便迫不及待地开始启动使用，1934年秋天，在中秋节因看守的日本兵警戒松懈，有3余名囚徒越狱，其中王子扬等12人侥幸逃脱。
由于这次越狱事件，使石井四郎感到将背荫河选择在抗联第三军的游击区域，是选错了地址。
但为了减轻和推卸责任，石井四郎还是采取了暂时维持，看看情况再定的办法。
但此后，抗联第三军赵尚志部曾几次袭击“中马城”及附近日军驻地，甚至发生了攻城未克事件。迫使石井不得不下定决心重新选择“基地”了。
1935年初夏，关东军强占距哈尔滨市约2公里的平房地区，圈定6平方公里范围，并于1936年春动工，开始了营建细菌部队的设施。这是一项极为保密的巨大、综合性的工程，石井四郎在长春招募了4个日本建设株式会社承担，经时两年多才告完成，工地上使用中国劳工有时超过去15人。从细菌部队设施蓝图上看，区内至少建有76栋建筑，包括指挥中枢所在的二层楼，即由3栋、4栋、5栋、6栋组成的细菌研究中心的“四方楼”，占地约为l5平方米，内有各种细菌研究室、可供全年使用的冻伤实验室、监狱、解剖室等，还有处理人体和动物尸骸的3个焚尸炉。
1936年时，平房及附属