一灯如豆的破棚子里，还是在野地里，不论是躺在床上，还是在满屋子人的农舍里，他都能写下去，但写得很慢，他始终全神贯注，投入了全部精力。” [20]
1943年，斯大林格勒的德军投降后，苏军先头部队解放了乌克兰。格罗斯曼当时随军报道。他听说在巴比谷（Babi Yar）有十万人惨遭屠杀，其中大部分是犹太人。过了不久，在别尔基切夫，他得知了母亲遇害的详情。《旗帜报》（Znamya）刊出了他的一篇小说《老教师》，讲的是有一个城市，跟别尔基切夫差不多，但没提城市的名，城里有好几百名犹太人遭到屠杀，故事主要讲的是屠杀前发生的事。他还写了一篇文章《没有犹太人的乌克兰》，是对死者的长篇祷告。这篇文章被《红星报》退稿，但是“犹太人反法西斯委员会”的报纸用意第绪语（主要是犹太人的语言，近似德语，也掺杂着希伯来语和斯拉夫语—译者注）刊登了出来。 [21] 这两篇文章是世界上最先揭露犹太人大屠杀的报道。 [22] 格罗斯曼还写了一篇生动而冷静的文章《特雷布林卡地狱》（1944年下半年发表），这是世界上第一篇揭露纳粹死亡集中营的文章，其他报道，不论何种语言，都在它后面。这篇文章在纽伦堡审判时再次刊出，还被用作证词。
有关犹太人大屠杀的作品，迄今已经出版很多，可是即便今天，大屠杀惨烈的程度，世人还是难以想象。说到犹太人种族灭绝（Shoah），乌克兰历次屠杀是开始，波兰各死亡集中营是高潮。格罗斯曼是调查纳粹灭犹的第一人。纳粹党卫军竭力销毁波兰特雷布林卡（Treblinka）灭绝营的痕迹，妄图毁灭罪证。格罗斯曼采访了当地农民和四十位幸存者，设法重现了这个灭绝营的内部结构和诱杀伎俩。他深入透彻地写到纳粹的骗术，写到“党卫军研究死亡的神经科医生”如何“再一次蒙骗了人们的思想，故意散播一丝希望……他们一字一顿地大声说：‘妇女儿童要把鞋脱掉，袜子要放进鞋里，要整洁……进浴室的时候必须带上身份证件、钱、毛巾和肥皂。我再说一遍……” [23] 英国诗人、哲学家柯勒律治（Coleridge）曾经给“想象力”下过这样的定义：“让灵魂摆脱客观事实的禁锢而获得自由，这种摆脱的能力就叫想象力。”显然，格罗斯曼天生就有这个能力，并且达到了最为高超的水平。
但是，苏联官方的宣传口径是这样的：在希特勒统治下，各族人民的苦难都是一样的。如果有人说，犹太人所受的苦难最为深重，苏联官方就用一个标准答案来反驳：“死人都一样，不要做区分。”
一旦承认了绝大多数死者是犹太人，就没法否认苏联的其他民族是种族灭绝的帮凶了；再说，斯大林本人就是反犹的。1943年到1946年，格罗斯曼和爱伦堡都在为“犹太人反法西斯委员会”撰写《黑书》（The Black Book）。这是一部纪实作品，记述了在苏联和波兰的土地上发生的屠杀犹太人的事件。但是《黑书》从来就没有出版过。 [24] 不管怎么妥协让步，这样的书，苏联是不会允许出版的。
长篇小说《人民是不朽的》也像《斯捷潘·柯尔丘根》一样获得了斯大林奖提名，可是，尽管评选委员会一致推选，斯大林还是将它否决了。格罗斯曼的下一本小说《为了正义的事业》，刚开始的时候获得好评，可是后来却遭到批判。这可能有两个原因：第一，格罗斯曼是犹太人；第二，当时正是斯大林统治如日中天的时候，战争的实际情况一点儿都不许写，战争第一年的惨败更不许写了。“犹太人反法西斯委员会”其他领导成员都已经被捕的被捕，被杀的被杀，新一波大清洗马上就要开始。1953年3月斯大林去世，若非如此，格罗斯曼几乎肯定也会被捕。
接下来的几年格罗斯曼获得了公众意义上的成功。他被授予了声望极高的“红旗劳动勋章”，《为了正义的事业》也再版了。这个时候，格罗斯曼正在写他那两部杰作：《生活与命运》和《一切都在流动》。这两部作品都是直到1980年代后期才在俄罗斯出版问世。 [25] 《为了正义的事业》政治上没有《生活与命运》那么异端。作者本来想把《生活与命运》作为《为了正义的事业》的续篇来写。《生活与命运》里的人物，很多也都是《为了正义的事业》里的人物，但是最好把《生活与命运》作为一部独立的小说来看。这本书很重要，不仅是文学巨著，也是史学鸿篇。斯大林统治下的俄国，没有比这本书更为全面的描写。其他持不同政见作家—沙拉莫夫、索尔仁尼琴、曼德尔施塔姆夫人，他们的感召力来自他们都是体制外的人；而格罗斯曼的感召力，至少部分地来自他对苏联社会各个层面都了如指掌。《生活与命运》是一整个时代的写照。在《生活与命运》中，格罗斯曼实现了很多苏联作家竭尽全力却没有取得的成就。书中每个人物，不管如何生动地呈现，都代表了某一群人或某个阶层，其命运是那个阶层的命运的缩影：施特鲁姆代表的是犹太知识分子；戈特马诺夫代表犬儒的斯大林主义官员；1930年代成千上万老布尔什维克被逮捕，阿巴尔丘克