A szarmata harcos fegyverzete az idõk folyamán többször megváltozott. A sztyeppen az összetett íj volt a legfõbb kellék, ami lehetõvé tette a mozgékony harcmodort. Az elit alakulatot a pikkelypáncélos nehézlovasság adta. Kiegészítette ezt a közelharcban a kard és a tõr. A Kárpát-medencei szarmaták ugyancsak használták e fegyvereket, de mind nagyobb szerephez jutott a lándzsa. A szomszédos germán törzsekkel való érintkezés során átvették a pajzs használatát is.

A Traianus császár hadjáratait megörökítõ, Rómában ma is látható oszlopon visszatérõ motívum az ún. tropaeum: az ellenségtõl zsákmányolt fegyverek között ott vannak a szarmaták sárkányos hadizászlói, a jellegzetes páncél és sisak.