M. Ö. III. – II. yüzyıllar boyunca Sarmatlar, Tanrı Dağları’ndan Tuna’ya kadarki bozkırlara akın etti, M.S. II. – III. yüzyıllarda ise Doğu Avrupa’da hafif ve ağır birliklerin yer aldığı süvari ordusunu oluşturdular. Süvari ordunun teçhizatları ise Batı ve Merkezî Avrupa ile Merkezî ve Doğu Asya’nın unsurlarını içermektedir. Bütün bu gelenekler, Sarmat çevresinde özgün bir hâl aldı.
Sarmat ordusunun saldırı silahları, hafif ve ağır süvari birlikleri için aynıydı. Uzak muharebelerin en önemli silahı, büyük bir yay ve başlıkları kemikten olan oklardı. Bu yayın yapısı, Merkezî Asya’dan benimsenmişti. Okun demirden yapılan saplı, üç kanatlı başlıkları da Merkezî Asya menşeli idi. Yayla oklar goritin içerisinde yer alıyor, yay goritin içerisine dirseği çıkartılmış hâlde yerleştiriliyordu. Sarmatlar, Gotlarla İskitlerden farklı olarak goriti, kılıç kemerinin sağına takıyorlardı. İlk darbe silahı ise çok uzun başlığı olan mızraktı. Mızrağın poyrası düzleştirilmiş kenara sahipti. Bundan dolayı darbe vurulurken mızrak düşmanın vücudunun sonuna kadar saplanmıyordu. Böylece Sarmat askeri düşmana sapladığı mızrağını hemen geri de çekebiliyordu.
Mızrağın yanı sıra 30 – 50 santimetre uzunluğundaki hançer ile uzun kılıç da önemli saldırı silahlarının başında geliyordu. Hançer kılıfın içinde kılıç kemerine bağlanıyordu. Soylu kimselerin hançerleri, altın, değerli taş ve renkli cam parçalarıyla süsleniyordu. Bu tür hançerleri taşıma geleneği, Merkezî Asya’ya kadar uzanmaktadır. Bu kılıçlar Merkezî Asya’da özellikle M. Ö. V. yüz yıldan itibaren çok yaygın olarak kullanılıyordu. Sarmat kılıçlarının tali gereçleri ise doğrudan Çin örneklerini hatırlatmaktadır. Çin’de nefritten üretilen kılıçların tali gereçleri, Büyük İpek Yolu aracılığıyla Moğol bozkırlarından Roma İmparatorluğu’nun Tuna sınırına kadarki göçebeler arasında yaygındı.
Sarmatların savunma silahları ise miğfer ve zırh takımından ibarettir. M. Ö. I. yüzyıl — M. S. I. yüzyılda Sarmatlar, Roma İmparatorluğu’nda yapılan, ancak burada artık eskiyen miğferler kullandılar, M. S. I. yüz yıldan itibaren ise konik ve oval şekillerdeki miğferler popüler oldu. Onların üretimi için Sarmatlar, demir şeritlerden şekil oluşturan çerçeve yapıyor ve bunları demir şerit veya kalın sert deriyle dolduruyorlardı.
Sarmat zırh takımları ise pullu, yelme ya da yelme pullu şeklindeydiler. İskitlerden farklı olarak Sarmatlar, kendileri demir ve bronzdan pul yapmıyor, Roma yapımı pullar kullanıyorlardı. Bunları da Roma topraklarından ganimet olarak alıp getiriyorlardı. Özellikle de demir ya da çelik halkacıklardan yapılan önden açılır zırhlar tercih ediliyordu. Aslında bu tür zırhlar, M. Ö. IV. yüzyılda Kelt veya Germenler tarafından keşfedildi, M. Ö. I. yüzyılda da Romalılar tarafından benimsenerek bütün dünyaya yayıldılar. Sarmatların zırhı, kalçaya kadar olan gömlek şeklindeydi (Bunların kolları dirseğe kadardı). Ancak zırhların bazıları, gömlek kısmıyla ayak kısmını bağlayan şekildeydiler. Yelmenin esnekliği, onu farklı şekillerde kullanmaya imkân tanıyordu.
Ancak böyle yelmeler, askeri mızrak darbesi, hatta oklardan çok iyi korumuyordu. Bundan dolayı Romalılar, daha sonra Sarmatlar da önemli yerlerden pullarla sağlamlaştırmaya başladılar. Kombine yelmeler için Sarmatlar pulları, Roma İmparatorluğu ve onun Karadeniz’deki vassallarından alıyorlardı.
Sarmat koşum takımının kökenleri ise Orta Asya’dır. Küçük sert eyer, atın gövdesine çeşitli kemerlerle bağlanıyordu. Sarmatların koşum takımının önemli özelliklerinden biri de eyerden sarkan kemerlerdir. Bu kemerler aynı zamanda göğüs kemeri ile atın iki omuzunun arasından geçen kemerin birleştiği yerleri kapatmaktadır.