书本上的知识不足以满足乔冠华的求知欲。乔冠华决定继续他的学业，并在日本学习。由于成绩优异，学校向国家教育部申请资助，最终解决了学费问题。乔冠华朋友的朋友林仰山回忆说，1933年，乔冠华继续在日本东京帝国大学学习哲学，并秘密参与了反对日本侵华战争的宣传工作。日本警方在看守所拘留了乔冠华，并搜查了他的住所。与此同时，一名警察对乔冠华变得很有礼貌，甚至对他说:“乔桑(军)，我佩服你!”当他们搜查乔冠华的住处时，发现他周围的一切都安排得很整齐。首先，在日本人的眼里，这样的人就是有教养的人。由于找不到确凿的证据，乔冠华在被拘留两周后被释放。
根据《乔冠华传》，由于乔冠华的进步活动得不到日本反动势力的容忍，他很快被驱逐出境。1935年，乔冠华赴德国蒂宾根大学学习。当时，国内形势越来越紧张。乔冠华开始利用课余时间学习军事科学，特别是德国著名军事理论家克劳塞维茨的《论战争》。与朋友广泛讨论欧洲战争史和军事地理书籍，反复思考欧洲和世界地图的形势。1936年，国内局势变得越来越紧张，乔冠华决定回国。当乔冠华的博士论文通过审查后，他回到了中国，没有获得博士学位证书。乔冠华几经辗转，于1938年初返回祖国。他被邀请到香港担任《晚报》的首席作家，他每天写社论。乔冠华以“乔木”为笔名，每篇社论通过中新网发表在《南洋侨报》上。当时，正是世界各地都在发生这种情况的时候，乔冠华不可避免地写了一篇社论，更多地谈论国际问题，正是这些非凡的国际评论，让崭露头角的乔冠华在香港流行起来，被称为“乔木”。
我的朋友徐驰曾这样评价乔冠华在报纸上发表的第一篇社评:“他的文风潇洒，洞见透彻，在读者面前发光发亮，让我感到震惊和敬畏。”据乔冠华传记的作者罗银生介绍，当时大多数文化界人士都有抗日的爱国精神，但也有一些人并不清楚国民党的顽固分子，他们是抗日的，秘密反共的。了解和理解不断变化的国际形势，乔冠华的社论往往能为那些对对抗战争的未来感到困惑的人指明道路。
