该剧于2012年9月在威海开机，并且全程在甲午故地威海拍摄。拍摄之前，剧组查阅了大量的历史文献、聘请专家学者并结合博物院内文物进行考证，按照1:1的规格翻制还原出当时的海军服装、枪弹、大炮等服装道具。为了真实还原这段历史，剧组还运用了大量的航拍技术，并投入12个月的后期制作，融入3600秒的特效镜头。拍摄时坠毁了三架航拍直升机，每架都值十多万。

导演齐星曾远赴日本寻找甲午遗踪，他看到有些阵亡的北洋海军墓碑和战死的日军葬在一个墓地，有些人甚至没有名字让他心中震撼，因此该剧在片尾特地呈现了由历史学者提供的阵亡将士名单。

为了让场景细节更加逼真细腻，该剧还邀请了国内特效团队加盟。

《铁甲舰上的男人们》视角独特，着眼点放在了展示那些普通的水兵们平时在舰上工作生活的乐观向上，战时的临危不惧，奋勇杀敌的一面，它要展示的是一个民族所具有的那种生生不息、不可自辱的风貌（北青网评）。

该剧很好地做到了“兵”与“将”的双轨并重，将领的谋定指挥与水兵的浴血奋战相辅相成，显得智与勇两方面都有着不错的表现力。前半段是以轻松幽默的手法来表现严肃沉重的故事，三个出身不同、性格各异的男人在一番不打不相识过后都成了定远舰的普通水兵，生活化的场面给人轻松诙谐之感。而剧集的后半段，风格有着历史正剧的严谨风范，气势恢宏的战争场景看得人惊心动魄。整体而言，《铁甲舰上的男人们》做到了以轻松的手法讲述严肃故事，不刻意的渲染苦难。在精神上，则严格遵循史实重现甲午海战的悲壮与惨烈，通过官兵的壮烈来唤起观众内心深处对理想中的浪漫的英雄主义的追求（新华网评）。

该剧在制作上选定了“高大上”的基调，大手笔的后期制作成为全剧的亮点；在叙述视角上却踏踏实实地选择了“接地气”，以北洋水师普通士兵们的视角重新解读中日甲午海战，通过一群“有毛病”的普通水兵生活中的嬉笑怒骂开篇，用轻松、搞笑的氛围渲染拉近与观众的距离，最大可能地奠定观众基础；随后根据剧情展开对北洋水师的介绍，被赞为“古装版《士兵突击》”。刻意设定的小人物视角，像朋友般讲故事娓娓道来，与观众完全平等的视野切实反映生活质感，真正做到让观众“看进去”（半岛晨报）。