而忍者也不算是武士，只算是同源的组织，而且忍者人数较少，社会地位都较武士低的，但在后来被收编入武士间的战斗序列，也常赋与了下士的称呼。
武士的雏形是在日本平安时代律令制下产生的武官，最初是日本桓武天皇为了巩固政权而设立的。在平安时代以前，除了奴隶，所有的自由人男子都有责任和义务成为被天皇募兵的对象。
12世纪末，武士首领源赖朝出任“征夷大将军”，创立幕府，统帅天下军政，标志着武士时代的来临。尔后的军事领袖多半袭用“征夷大将军”之官位，实施统治。由1192年开始，大部分幕府势力握有日本实际政权，直到1868年明治维新，江户幕府交出政权给天皇为止。
日本武士理论上必须是文武双全的人，除了要擅长剑道、马术、射箭等武艺，也须读书、习汉文、练书法、做文章；尤其兵法、韬略更是所须精通。品行、操守、勇气也都是被评鉴的范围，武士的道德被称为武士道。武士小学年纪就需现场参观死刑的执行，甚至上战场作战，日本战国时代，失去君主的武士会变成浪人。