1945年8月15日，日本宣布无条件投降。加藤政三于当年10月从上海回国，接曹石堂到东京。曹石堂入读东京都立第一商业高等学校，每逢周日，他便和养父一起挑粪、种菜。尽管加藤一家对他很好，他仍时常为自己在养父家中白吃白住心怀不安。半年后一个偶然机会，他结识了当时的中华民国东京留日同学会主席李树本，李树本小他四五岁，听了他的身世和处境后十分同情，当即前去说服加藤，让曹石堂搬进同学会，与他同住。
1949年10月，新中国成立的消息传到日本，当地华侨青年纷纷开始为回国做准备，曹石堂对家乡的思念也日益深切。
1950年，曹石堂已中学毕业，他将麦克.阿瑟将军为偶像，填写好简历照片，委托一位回国华侨代他报名大连一所海军学院。半年后，回信说海军学院实行保送制，学员需是党员或团员，暂不招收海外华侨。
曹石堂又报考了麦克阿瑟的母校美国西点军校。西点军校回信说：因为你是中国人，需要由中国政府保送才能入校。曹石堂明白，当时中美尚未建交，来信所说“中国政府”指的是台湾的国民党政府。
1951年初夏，曹石堂参加日本华侨青年旅游团赴台。一位50来岁男子来到他们驻地，指名要见曹石堂。此人名叫姚凤岐，是沁县老乡，曾担任过阎锡山政府的督察长，他看到报纸上旅游团的合影，曹石堂名字下面写着“山西”，特意来认老乡。攀谈中，曹石堂提出想见一见阎锡山，姚凤岐答应帮他联系。
出现在曹石堂面前的阎锡山，四方脸、长寿眉，身着便服，带着黑框眼镜，说话很是和气。66岁的阎锡山已经辞去“行政院长”一职，半隐居在台北市郊菁山草堂著书立说。曹石堂以蹩脚的汉语夹杂日语向阎讲述他报考西点军校的想法。阎锡山听罢，出乎意料地说道：“你去哪儿干什么？我也是日本士官学校毕业的，现在有什么用？我反对你去！世界上并不是每天都在打仗，还是和平的时候多嘛！你想报国是好事，咱们山西有煤有铁，你回日本学习工业、医学、经济，都一样可以报国嘛！读书如果有困难，我可以帮助你！”曹石堂告辞出门，又被姚凤岐喊住，告诉他：“稍等一下，阎长官要送你一点钱。”不一会儿，他拿来500元新台币交给曹石堂。
返回日本后，曹石堂思来想去，决定改考养父加藤的母校立教大学。次年，他如愿以偿考取立教大学经济系专业，给阎锡山写信告知此事。不久收到阎锡山用毛笔写来的回信，另附一年的学费15000日元。
曹石堂入读立教大学时，正值日本华侨青年掀起回国热潮，时常有人作报告，介绍新中国的情况，曹石堂听得心潮澎湃。大二没读完，他向加藤夫妇提出回国的愿望。加藤见他态度坚决，最终点头同意了。
因为曹石堂的特殊身份，他回国的消息受到日本多家媒体关注。《读卖新闻》大标题：“‘兵队太郎’后日物语”，副标题：“和日本军队朝夕相处5年，留学日本10年，长大成人的中国孤儿以感激的心情返回新中国。”一夜之间，“兵队太郎”曹石堂成了日本妇孺皆知的新闻人物。
曹石堂（中）与家人
毛泽东翻译是他前妻
1953年10月，曹石堂回到祖国，进入北京市华侨事务委员会开办的华侨学校补习两年中文。期间结识了他的第一任妻子，越南归国华侨黎善庄。黎善庄父亲祖籍广东梅县，早年留学法国，后在越南河内经商。1954年越南抗法战争末期，他携全家返回祖国。黎善庄不仅人长得漂亮，而且精通汉语、法语和越语，还写得一手好文章。进入华侨学校后，她很快成了公认的“校花”。两人恋爱后，1957年喜结良缘。
曹石堂从华侨学校毕业，分配到国家一机部技术情报研究室从事科技资料翻译工作，黎善庄考入南开大学继续深造。1959年1月，他们的小女儿出生了。
上世纪50年代末，曹石堂所在技术情报研究室拥有的主要日文资料，只有《日刊工业新闻》和《机械技术》。当时国家对进口报刊审查手续比较复杂，到达曹石堂手中的《日刊工业新闻》，常常是半年以前的，情报价值大打折扣。曹石堂十分着急，心中暗想，情报资料如此陈旧，长此下去，要到哪年哪月才能做到毛主席号召的“超英赶美”？他索性给日刊工业新闻社去了一封信，希望他们在每期报纸面世后，第一时间直接寄给他本人。作为交换，他可以向对方提供一些相关内容的中国杂志，对方同意了。从此，曹石堂便从微薄的工资中拿出一部分来，用于资料交换的邮资，与日刊工业新闻社保持着密切往来。谁知却埋下了隐患。
1958年，我国自行设计生产的东风牌、红旗牌小轿车在北京市展览馆展出，曹石堂激动不已。他相信，如果及时将这一消息报道出去，定会让美、日等国对新中国刮目相看。他连夜用日文赶写了一篇文章《新中国汽车工业的发展现状》，投向《日刊工业新闻》，很快在头版刊发，之后又陆续被一些海外媒体转载。
1959年9月27日，曹石堂接到妻子黎善庄从南开大学来信，说她29日放假后与父女团聚。当天夜里两点多钟，沉睡的曹石堂被敲门声惊醒，他打开房门，一副冰冷的手铐戴在他手上。
