1925年他们回到了顿河地区定居。《静静的顿河》第一部的巨大成功使肖洛霍夫声名鹊起,经过14年的时间终于全部闻名于世1926年,他出版小说集《顿河故事》和《浅蓝的原野》(后合为一集),受到文坛的关注。在集子的20多篇小说中,作家把严峻而复杂的社会斗争浓缩到家庭中间和个人关系之间展开,在哥萨克内部尖锐的阶级冲突的背景中展示了触目惊心的悲剧情景和众多的悲剧人物。早期作品特色鲜明,但艺术上还欠成熟。1940年,长篇小说《静静的顿河》完成。小说引起了极大的反响。
1930年肖洛霍夫见到了斯大林,1932年肖洛霍夫成为一名正式的苏共党员。根据后来发表的文件,肖洛霍夫曾两次在斯大林的亲自过问下,于30年代救助过遭受饥荒和政治清洗的顿河人民。1938年肖洛霍夫本人受到人民内务委员会的迫害,但由于斯大林的帮助而幸免于难。在30年代,肖洛霍夫的国际声誉逐渐上升,他在文学界为党所做的政治工作使他得以崛起。
在创作《静静的顿河》期间,肖洛霍夫又完成了反映农业集体化运动的长篇小说《被开垦的处女地》(又译《新垦地》)第一部(1932,第二部于1960年完成)。小说以顿河格列米雅其村集体农庄的建立、发展和巩固为背景,写出了斗争的复杂和尖锐。尽管对这一运动本身和作家的评价态度有不同见解,但是小说中达维多夫、拉古尔洛夫和梅谭尼可夫等形象鲜明生动,戏剧性的情节紧张感人。小说前后两部的风格有明显差异。
卫国战争时期,肖洛霍夫上过前线,写了许多通讯、特写和短篇小说。1943年开始发表反映卫国战争的长篇小说《他们为祖国而战》(未完成)。1957年发表的短篇小说《一个人的遭遇》(又译《人的命运》)产生了很大的影响,被称为当代苏联军事文学新浪潮的开篇之作。作家通过主人公索科洛夫在战争中的不幸遭遇和所表现出的坚韧品格,深刻地反映了法西斯的侵略战争给千百万苏联人民带来的深重灾难,以及苏联人民强烈的爱国主义精神、博大的胸怀和不可推摧的意志。作家没有拔高人物的行为和涂抹理想主义的色彩,真实地描写了主人公的家庭悲剧、精神痛苦和心灵创伤,作品散发着强烈的人道主义气息。英雄主义品格凡人化是这部作品的一个重要特征。小说采用的是故事套故事的形式,主人公的自述与作者的旁白相交融,作品的感情色彩和抒情氛围得以强化。
肖洛霍夫的笔始终与顿河哥萨克的命运相连。他的作品反映了处于历史转折时期的哥萨克人民的生活变迁,塑造了许多个性鲜明的哥萨克形象,并开创了独特的悲剧史诗的艺术风格。1965年,肖洛霍夫因其“在描写俄国人民生活各历史阶段的顿河史诗中所表现出来的艺术力量和正直品格”而获得诺贝尔文学奖。
第二次世界大战期间,肖洛霍夫两次被授予“社会主义劳动英雄”的称号,1939年他获得列宁勋章,1941年获得斯大林奖金,1960年获得列宁文学奖金,并获其他多种荣誉。他支持第二次世界大战结束至斯大林死后解冻时期的苏联文学界的高压政策,因而声誉下降,但在人民中间仍受崇敬。1984年肖洛霍夫在他的出生地克鲁齐林诺村去世。