1907年1月，松井石根接受内阁委派至参谋本部，为该部常务部员，并由日本军部派遣入华。此后松井长期担任参谋本部部员，参与策划对外侵略阴谋。其间曾被派往法国、中国使馆担任武官，常驻北京、上海、天津等地，成为日本陆军中有名的“中国通”。

1908年夏，同盟会革命者陈其美，悄悄从日本回国，他准备在上海组织反清暴动，这时他见到了支持中国革命的松井石根。两人是在日本的旧识，多日不见，相谈甚欢。陈其美还把他21岁的结拜小兄弟蒋志清便介绍给松井，这蒋志清就是后来的蒋介石。同年11月30日，松井升为陆军步兵少佐。

1915年，松井调任驻上海武官。1918年升步兵大佐，次年任日军步兵第39联队长。1921年任海参崴派遣军情报参谋。1922年调任哈尔滨特务机关长。在担任哈尔滨特务机关长期间，他四处收买汉奸，布置间谍网，收买马贼汉奸，勾结前清遗老，挑起中国内部不和，并因此受到上司嘉奖，于次年晋升为陆军少将。

1924年任日军步兵第35旅团长，1925年调任参谋本部第2部部长，从而“得以专心从事于平生最为关注的中国问题”。

1927年，日本首相田中义一在东京召集所谓的“东方会议”，商讨确立侵略中国的具体方针。松井石根作为负责中国情报业务的参谋本部第2部部长，曾在“东方会议”上作了关于中国政治形势的报告，并陈述了自己的意见。在其历任联队长、旅团长、师团长及军事参议官期间，松井积极训练所部士官与部队，极力灌输对外侵略扩张观念。同年升陆军中将。

1928年6月，关东军制造皇姑屯事件炸死奉系军阀张作霖，松井石根曾主张严惩背后策划人、关东军的河本大作，以摆脱舆论针对关东军的抗议。8月任日军第11师团长。

1931年10月，调任参谋本部部附，同年12月至次年8月，担任日本出席日内瓦裁军会议全权代表。1933年3月，就任军事参议官，同年8月，调任驻台湾日军司令官，10月晋升为陆军大将。任驻台湾日军司令官期间，他曾组织“亚细亚协会”，自任会长，鼓吹所谓的“大亚细亚主义”，积极制造侵华舆论。

1934年8月，再度调任军事参议官。次年8月，在日本军队内部皇道派与统制派的斗争中，发生了刺杀军务局长永田铁山中将的事件，松井因涉嫌此事，被迫引咎辞职、退出现役，后转入预备役。

1936年，松井石根到中国广东、广西两地，与胡汉民、陈济棠、李宗仁、白崇禧等人会谈，复至南京与蒋介石、何应钦和张群等人接触，试图以他一直以来鼓吹的大亚细亚主义游说中国政界要人，并刺探中国各方政治势力对日态度，甚至想说服蒋介石承认伪满洲国，遭到蒋的断然拒绝。他怏然离华，便也由此更加急切地想征服中国。他还曾在多种场合表示，有必要给中国政府一个教训，给南京政府一击，让他们猛醒，让他们反省。

1937年8月15日，即在中日淞沪会战全面爆发的当天，松井被任命为上海派遣军司令官，赴华指挥日军作战。当他从东京出发时，对前来送行的人宣称：“此番无论如何也要打到南京去！”凇沪会战持续近3个月，中日双方投入作战兵力超过百万人，战斗异常激烈。会战期间，日本参谋本部根据松井石根的请求，多次增派兵力，先后投入上海作战的海军陆战队和陆军部队14.5个师共约28万人的兵力，动用军舰30多艘，飞机400余架，战车300余辆。至当年11月，侵华日军在松井石根的指挥下，以4万多人的伤亡代价，攻占上海。11月7日，日军参谋本部颁令编成华中方面军，由松井石根兼任司令官，辖上海派遣军和第10军。

接着，松井石根在未报请日本统帅部批准的情况下，下令日军兵分三路进犯南京。11月22日，松井石根正式向参谋本部呈报，主张“必须攻占南京”，并表示“方面军以现有的兵力不惜付出最大牺牲，估计最迟在两个月以内可以达到目的”。11月24日，松井石根制定《第二期作战大纲》，决定12月上旬进攻南京。12月1日，日本参谋本部据松井石根的要求，电令华中方面军攻占中国首都南京。

松井在等到大本营进攻南京的命令后，立即兵分两路向南京扑来：一路由上海派遣军组成，沿太湖北侧，经苏州、无锡、常州、丹阳、镇江向南京进攻；另一路由第10军组成，沿太湖南侧，经嘉兴、湖州、长兴扑向南京。不久日军又分为四路，两路由丹阳、金坛等地直扑南京，另两路分别迂回芜湖和浦口，以图对南京守军形成东、北、西南几面包围之势。从12月5日起，双方在南京外围发生激战。中国军队抵抗不利，日军于8日全线突破南京外围防线，完成了对南京的最后包围。

同日，松井下达了准备攻克南京的作战命令，当日日军攻占江阴要塞。12月5日，日军到达南京外围，并于同日晚向中国守军发起进攻。7日，日军发动全线进攻，遭中国守军激烈反击。8日，日军突破南京外围防线，进至城郊，南京城被围。

日军虽来势汹汹，然而却早已面临多重困难。日军经淞沪战役后，未经充分休整补充就开始向南京方向进击，其后勤保障也严重不足。松井的幕僚们多次向他提醒过类似的问题，他也深知自己的部队面临的困难，但他仍然一意孤行。十一月二十日参谋总长闲院宫载仁亲王向第10军发出指令：“部队为求得补给，应尽量利用现地物资”。在当时的环境下发出这样一道指令，无异于指使日军进行公开抢劫。松井石根作为方面军最高指挥官，对日军接到命令后的所作所为给予默认。“其结果大规模的掠夺行为自然漫延到整个部队”。可以说，日军此时的行为，正是南京大屠杀过程中大规模抢劫的预演。

12月10日，松井石根派飞机向南京城内投掷最后通牒，诱迫中国守军投降。同日，日军第18师团攻占芜湖，中国军队后路被切断。12日，日军第6师团以重炮猛轰南京中华门，炸塌城墙数处，日军蜂拥而入。13日，南京沦陷。12月17日，松井石根率华中方面军举行声势浩大的“入城式”。

当松井石根于1937年12月7日发出“南京城攻略要领”作战命令时，即称：即使守军和平开城，日军入城后也要“分区对城内进行扫荡”，对战俘问题未提只字。12月15日，松井再发出作战命令：“两军（上海派遣军和第10军）在各自警备地区内，应扫荡败残兵，收集隐匿之武器与军需器材，扫除战场。”。

日军占领南京后，由于受到作为日军华中方面军最高长官松井石根的纵容与默许，其各师团基本都采取了“不留俘虏的方针”，将所有俘虏全部“处理掉”。从而使日军在南京这座千年古都内制造了惨绝人寰的大屠杀事件。在此后约6个星期的时间内，日军官兵在南京城内肆无忌惮地烧杀淫掠，犯下了极端残暴的反人道罪行。南京市民和放下武器的中国军人被日军以枪击、刺杀、活埋、水溺等各种残忍手段集体屠杀或零星杀害的达30万人以上，被日军奸淫的妇女超过两万人。日军还对南京城进行了大抢劫、大纵火，历史名城被毁三分之一，财产损失不计其数。松井石根在占领南京之前即曾下令日军在占领南京后进行“扫荡”，日军入城后，他又有意纵容日军官兵实施各种极端的暴行，根本没有采取任何制止措施。因此，松井石根对南京大屠杀事件负有不可推卸的责任。

日军在南京的暴行震惊了国际社会，作为日本盟国的德国当时派驻南京的代表曾向其本国政府报告说，“这不是个人的而是整个陆军即日军本身的残暴和犯罪行为”，日军“为自己竖立了耻辱的纪念碑”。迫于国际舆论的巨大压力，日本政府于1938年3月5日召回松井石根及其部下将佐约80人。同年7月20日松井石根出任内阁参议，至1940年辞职。1942年4月4日，松井石根受日本天皇“叙勋”，授一级金鵄勋章。

日本战败投降后，1945年9月19日，驻日盟军总部下令，将松井石根作为战犯逮捕入狱。远东国际军事法庭从1946年5月开始，对包括松井石根在内的28名日本甲级战犯的战争罪行进行了长达两年多的审讯。

审讯中，松井石根辩称自己当时因生病而未能阻止部属的暴行。远东国际军事法庭举证驳斥说：“他的疾病既没有阻碍他指挥在他领导下的军队的作战行动，又没有阻碍他在发生这类暴行时访问该市达数日之久。对于这类暴行负有责任的军队又是属于他指挥的。他是知道这类暴行的。他既有义务也有权力统治他自己的军队和保护南京的无辜市民。由于他玩忽这些义务的履行，不能不认为他负有犯罪责任。”

1948年11月12日，远东国际军事法庭判定松井石根有罪，为甲级战犯，处以绞刑。12月23日零时，松井石根在东京巢鸭监狱被送上绞刑架。

1978年，松井石根的牌位与其他13名甲级战犯一同迁入靖国神社合祀。

1947年7月，国民政府战争罪犯处理委员公布的《日本重要战犯名单》中，提到的松井石根主要罪行有：

1）该犯在任哈尔滨（奉天）特务机关长时期，收买马贼、汉奸，勾结前清遗老，为田中大陆政策之忠实执行者。1927年田中义一在大连召开东方会议，决定对华方针，一切均由该犯建议（时任参谋本部第二部长），前后驻华共达三十年，为日本侵华战争之制造者。

2）该犯与荒木同属日本右翼团体之国本社，以征服亚洲之责任自负，唱大亚细亚主义。发行刊物，自任大亚细亚协会会长兼满蒙协会会员，平素主张中国应划分华北、华中、华南、华西四部分，各个独立，以遂其侵略之企图。

3）1937年升任上海派遣军总司令，指挥海陆空军到处奸淫掳掠，轰炸不设防地区。1937年12月13日，日本陆军攻入南京，该犯下令对南京城施行大屠杀，男女老幼遭其杀戮者，为数约在十万以上（据南京慈善堂埋尸统计，实则为30万以上)，造成历史之大屠杀。