日本刀的形态，从平安后期，经过镰仓、南北朝、室町、安土桃山、江戸初期，中期，幕末的推移，出现了很大的变化。主要表现为从直刀到弯刀的转变，直刀适合扎刺，弯刀适宜挥斩，之所以出现这样的转变，有论者认为可能是受虾夷（爱奴人）的影响，或是战斗型态变迁造成。从平安末期开始，刀具形制便逐渐改变。镰仓时期中期因为元日战争，日本刀因为战备大量制作，偶有佳作产生，亦后世所称的名器名物，同时制刀风格也开始活跃。忽必烈大军两次因故失利，元军的两次失利为缺乏铁矿的日本遗留大量兵器，而元军刀械中不乏中亚南亚掠夺来的冥铁，日本因此得以重新手工锻造。日本打刀因过于单薄，并不同於其他弯刀般适合马上砍劈，而必须两手控刀保持一定的切入角。
日本刀的制作，从平安后期到镰仓时代，出现了大和国，备前国，山城国，相模国，美浓国五大中心、各地名匠辈出。
上古时期
日本古坟时代中期（200年－771年）已经出现铁制刀剑，当时的原料以炼铁为主，形状则仿造中国的剑而呈直形。譬如崎玉具的稻荷山古坟和岛根具的造山古坟都有铁剑出土。从稻荷山古坟出土的“金错铭铁剑”制作于公元471年，是为纪念服侍雄略天皇的功绩而作，刀上刻有115个汉字。这个时代的刀剑多已锈蚀。
平安时代末期之前的刀剑被归类为上古刀，刀形有别于现在常见的日本刀，或为直刃，或带双锋。上古刀极为罕见，是重要的考古材料。
7－8世纪以后的刀剑保存比较完整，有名的有四天王寺的丙子椒林剑七星剑，正仓院的金银鈿庄唐大刀等，有人认为这些刀剑多为中国，朝鲜的舶来品。这个时代，吴（中国东南部的总称）的刀被认为是最好，对此古天皇曾作诗赞赏。同时外国的锻造工艺大量流入使得日本的锻造水準也大幅上升。正仓院藏有一批被称作为“唐大刀”或“唐样大刀”的据认为是进口或由日本仿制的中国式刀。
现在遗留下来的平安时代初期的刀剑数量相当稀少，其原料改为略经粗炼过的铣铁，外观则依旧保持棒形。学术於日本刀风格的变迁，以及日本是何时怎样创造出独特的弯刀等疑问，还未能充分说明。普遍认为，平安时代中期（10世纪左右）承平之乱和天庆之乱发生以后，直刀逐渐转变为弯刀。同时，制作工艺也由平造转为类似菱形的镐造刀。制作工艺的改进使日本刀更加坚固而且锋利。这一过渡期的典型的样式是刀身刀把为整块铁打制而成的“毛拔形大刀”以及带有锋两刃构造并有弯曲刀反的“小乌丸”型刀，毛拔形大刀以伊势神宫所藏传为藤原秀乡使用过的一把最为著名。
太刀时代
平安时代后期，尤其是武士势力最活跃的“前九年之役”和“后三年之役”时期，武士门第势力增大，由此日本刀有了大发展。如出产优质铁矿砂的伯耆国和备前国，还有作为政治文化中心的山城国，大和国等地，出现了不同流派的刀工，这个时候的日本刀主要被用于马上决战，所以多为太刀。这一时期的代表作品有源赖光在大江山斩了“酒吞童子”的“童子切”（伯耆国的安纲制，日本国宝），和传说让狐狸帮忙打造过的“小狐丸”（山城国的三条宗近制，二战时被毁）。除了安纲以外，山城（今京都）的三条小冶宗近，古备前友成等，被认为是现存刻有制作者名字作品的最古的刀工。
平安时代太刀特征为：镐造，庵栋（い书りむね，iorimune），小切先，京反，前窄后宽，刀形优美。
镰仓时代初期日本刀与平安时代末期相似，镰仓幕府的武家政治体制的确立，使刀剑界十分活跃。后鸟羽上皇甚至设置了御番锻冶，月月召刀工锻刀，积极的鼓励制刀。
镰仓时代中期，由于重视使用性的结果，刀幅宽，整体宽窄变化小。刀锋为猪首切先，品质实在刀风刚健。此时短刀制作开始繁荣。
镰仓时代末期，两次元军入侵以及原有政治体制的崩溃带来的社会大动乱，使得制刀业繁荣。这个时期的日本刀比镰仓中期风格更加豪放。继承和发扬了刀幅广，刀体宽窄变化小的特点，切先也更长了。短刀，刀，太刀都同样的出现比其他时期更长的特点。
南北朝时代，大量出现了和以往不同的称为大太刀，野太刀的大型刀。
室町以后
室町时代中期以后，日本刀由刀刃向下佩带的太刀转为刀刃向上佩戴的打刀。
到了江户时代，江户（今东京），大坂（今大阪）各地锻造业繁荣，各地名刀工涌现。随着太平盛世的持续，日本刀开始追求华美的刃纹。另外，这个时代开始鐔、小柄、目贯、笄等刀具装饰开始发达。
幕末期的骚乱开始后，以水心子正秀等为中心的主张古刀锻鍊法復元派，再度将实战性强的日本刀制作法发扬。此后的刀被称为新新刀（新々刀）。正当制刀开始再度繁荣之时，明治维新展开了，1873年开始禁止武斗，1876年禁止警察，军人以外的人带刀的废刀令出台，日本刀急速衰退。现代则作为一项传统工艺，古式制刀法仍在各地流行。
