在当时那样的情况下，拉贝竟然还能安排出时间来记日记，简直不可思议。
他的朋友对他交口称赞，中国人把他奉为圣人，就连遭到他不断抵制的日本人也对他敬重三分。尽管如此，他仍然保留了自己以往的谦逊品质。但要是路遇不平，他的和蔼与温和就会消失得无影无踪，他就会勃然大怒。他曾不容抗辩地用德语痛斥企图强奸妇女的日本士兵，把卐袖标举到日本兵的眼前，揪住他，把他扔出院子。听说他在家里也一直保持自己家长的权威形象。
他虽然谦逊，但有时也会表现出一点儿虚荣心，例如身着燕尾服，胸别各种奖章，在柏林名摄影师的镜头前摆姿势弄表情。这一点还表现在《远东新闻报》的编辑把拉贝自鸣得意的幽默话语删掉的时候。
拉贝1908年离开德国的时候，还是威廉二世皇帝统治时期。1919年他短期回国，此时德意志帝国已处在共和国时期，但动荡的局势还没有平定下来。在汉堡，他看见一个人被暴徒殴打倒地，他的性格驱使他上前把那人扶了起来，结果他也遭到了殴打。
在柏林，西门子工人上街罢工的时候，他看见街上架起了机关枪，于是从那时起他开始记日记，久而久之这成了他的一个嗜好。但是他的夫人并不怎么欣赏这个嗜好，因为下班回家后，家里人常常会因为他记日记而和他说不上几句话。从他的日记里我们经常可以发现他有一种忧虑，担心在动乱的年代日记可能会丢失。对他来讲日记是一笔珍贵的财富，里面记录了他的时光和他的生命。
对在柏林的岁月，他是这样记录的：
接着发生了暴乱。我对家乡的政治局势一无所知，因此也就看不出个所以然。后来我才明白，当时德国的实际情况比我自己感觉的要糟糕得多。我的左边是施泰因广场音乐厅，里面是帝国国防军；我的右边是乌兰德大街的跑马场，里面驻扎的是共产党人。到了晚上，双方交火对射，我只好和家人从卧室跑出来，在走廊上过夜。柏林的日子很不舒服，那一段时间正好是总罢工，技术救援组织到处出动，填不饱肚子的女大学生沦为娼妓，歌剧演唱家图几个施舍任人包唱，投机商囤积居奇造成商品短缺，买荤油要凭票，西门子内部甚至还有专买皮靴后跟的票券。我是该领的票都领了。布伦德尔是我西门子的同事，也是我的朋友，他有一次告诉我，西门子城里有个地方可以买到各种豆子，价格便宜。我买了两大袋豌豆想带回家，但偏巧赶上下雨，一路上又没有有轨电车，慢慢地袋子被雨泡软了。结果到家的时候，豌豆只剩下了一半。我是一点也不适合于在柏林生活！
在电车上，一个姑娘饿昏过去了，我把我的食物分给了她一部分。在那个人人日子都不好过的困难时期，还有一件事情在我的脑海里一直记忆犹新，西门子在上海办事处的会计布朗先生回国休假，邀请我和布伦德尔，还有其他几个朋友一块儿去波茨坦广场旁边的普绍酒馆喝杯啤酒，就酒吃的是他从老家巴伐利亚带来的小吃——白面包、香肠和黄油。当时在旁边有一个8岁左右的小姑娘，用围裙捧着火柴，每盒要一个马克。我们酒足饭饱之后，布朗把剩下来的食物全部送给了这个小姑娘。小姑娘突然大声哭了起来，将围裙里的火柴全部抛撤在地上，如获至宝似的捧着食物奔向正在门口等候的母亲。我们的啤酒顿时索然无味了。
当我得到消息，可以重新回到中国发挥我原有的作用时，我不禁轻舒了一口气，我想别人不会为此而责怪我吧。
此行到中国，拉贝一待就是20年，中间只有两次回国，第一次是在20年代，另一次是在1930年，这一次回国是为了治疗感染引起的疾病。这次回到中国他被任命为西门子驻中国新定首都南京的办事处负责人。在这之后他再次看到德国是1938年3月，西门子洋行召他回国，把他送回了家。
南京从1927年起成为中国首都，1937年时，约有130万人口。西门子洋行在那里设置了电话系统，为发电厂安装了涡轮机，并为好几家医院提供了医疗设备，由西门子培训的中国专业技术工人负责设备的保养和维修。拉贝每天都能从中国的各部委得到向西门子订货的合同。
当时南京有一家德国饭店，天津著名的基斯林－巴德尔糕饼店也在那里开了一家分店，以大使特劳特曼为首的德国大使馆从北京迁到了南京，其他国家的大使馆也开始在南京忙于建馆。“远洋通讯社”从南京播发的是有关中国政治方面的报道，而与此同时上海则是中国的经济中心，这就像华盛顿和纽约之间的关系。
在南京实施统治的是最高统帅蒋介石，他的意愿是要给这个被拥有私家军的各路军阀弄得四分五裂的国家带来统一和现代化。当时还有一个割据的延安地区，毛泽东经过闻名于世的长征在那里建立了自己的根据地。
南京那时驻有大约30名～40名德国军事顾问，全是退役军官，有些人还带有家眷。蒋介石是从1927年开始把他们招聘到中国的，并和他们签有私人聘用合同。这些德国军事顾问的任务是把蒋介石的军队训练成精锐部队，既能和毛泽东的革命军队抗衡，也能抵抗日本军队。
1934年和1935年期间，这些顾问的总负责人是退休大将汉斯·封·泽克特，他曾经是魏玛共和国时期的陆军总司令。排在他后面的是亚历山大·封·法尔肯豪森将军。他们开始着手训练几个精锐师，正是这几支部队在1937年的秋天长时间地抵抗了强大的日本军队。
南京的德国军官在一般情况下不大和外界交往，最高统帅蒋介石专门建造了一个住宅区供他们居住，他们在那里的生活同德国军官俱乐部的生活没有什么两样，他们中的大部分人只签约几年，对中国、对这个国家的土地和人民及其文化与历史很少感兴趣，他们更多地谈论的是个人的履历、调任、军务和他们的战争经历。他们在政治上观点不一，来自不同的阵营，因此有时会发生纷争，封·泽克特只好为他们专门成立了一个名誉法庭。
在南京的外国商人，在中国常常一待就是好几年，对他们来讲回国返乡的道路是遥远而又漫长的。当时全中国只有一条航线，经营者是汉莎公司的子公司欧亚公司。当时中国和欧美之间没有直接的空中航班。要到德国，多半要先乘船从上海到热那亚，在那儿下船后转乘火车到德国，整个行程大约要4周～6周。如果走西伯利亚铁路大约只要10天～12天，尽管如此大部分人还是愿意乘船，这要比火车舒服得多。
1930年拉贝最后一次离开德国后，他的祖国都发生了哪些变化，他是很难想象的。关于希特勒的掌权、罗姆叛乱和德国政治气候的翻天覆地的变化，他全都只是通过报纸了解到的。他阅读的报纸有英国人在上海发行的《字林西报》，这是当时中国最像样最重要的英文报纸；他还订阅了也是在上海出版的德文小报《远东新闻报》，这家报纸基本上只转载官方的德国新闻社或远洋通讯社播发的消息，因此在内容上紧跟帝国宣传部的精神。
《远东新闻报》对德国、德国元首和德国党的报道是一片赞扬。不过即使是《字林西报》，除了有时态度有些傲慢外，总体上讲对德国及德国的政策还算是友好的。德国本土来的报纸到了南京的时候已经过去了两三个星期，没有什么意思了。这些报纸也只是报喜不报忧，例如经常报道的有“民族的崛起”，“从凡尔赛屈辱的束缚中解脱出来，不再偿付战争赔款”，“1918年战败后，德国要求和其他国家平起平坐，现在已经做到了这一点”等等。犹太人经常受到袭击，但是为什么会这样，云集在中国的各种民族、各种国籍的国际商业界对此并不明白。开始的时候德国报刊很少报道实际上已经在德国进行的反犹运动，《字林西报》对这方面也从不报道，国际新闻界当时在很长一段时间内普遍认为希特勒的反犹政策只是德国国内政策的一个令人不快的话题，外国不应对此指手划脚。
国际新闻界更感兴趣的是德国的外交政策和经济政策，以及德国的扩军；1938年后的忧虑所在主要是希特勒的政策会不会导致战争。30年代末期，越来越多的犹太人流亡上海，这个时候在中国才能了解到一些德国犹太人遭迫害的具体情况，人们开始对实际情况有了具体的了解。
约翰·拉贝在中国生活了近30年，他的家乡与其说是德国，不如说是中国。他属于那种富有传奇色彩的老中国通，说一口纯正的英语，但不会说中国话，和中国人交谈却用洋泾浜英语，他们能用中国人的思维方式进行思维，理解中国人，而且也欣赏和热爱中国人。这些中国通的商人们对中国有说不尽的奇闻轶事，道不完的经验感受，言不了的亲身经历。他们能形象地说出中国以及中国人的独特之处具体表现在什么地方。这些人如果回到对他们来讲已经变得十分陌生的家乡，他们反而会很难适应故土的生活。约翰·拉贝也是这样。
在南京的时候，他的一家人都十分好客。1936年秋，我在美国一所大学学成归国，途经日本和中国，囊中羞涩，却又想什么都看看，什么都了解了解。