Kể từ khi xuất hiện, Tướng về hưu đã gây một tiếng vang lớn, không chỉ bởi nội dung câu chuyện và còn bởi nghệ thuật xây dựng tác phẩm của nhà văn. Nguyễn Huy Thiệp đã rất thành công khi sử dụng một lối kể chuyện giản dị, phong cách thể hiện truyện ngắn giống như cách bố cục của một họa sỹ tài ba, xếp đặt những mảng, những khối khác nhau bên cạnh nhau theo một trật tự nhất định.
Những đoạn ông miêu tả hoặc kể lại câu chuyện thật ngắn gọn, tiết kiệm từ đến mức tối đa, nhưng đó lại là những ngôn ngữ chặt lọc tạo nên một lực hấp dẫn làm người đọc vừa say mê vừa choáng váng. Kết cấu của truyện ngắn Tướng về hưu là một kết cấu xâu chuỗi, các mảng khối liên kết với nhau tạo nên thứ phản ứng dây chuyền khắc sâu vào tâm thức người đọc.