1072 yılının eylül ayında Alp Arslan’ın topladığı Selçuklu ordusu yola çıktı. Karahanlı topraklarında ilk olarak Buhara’ya varan ordu bu şehri almak için harekete geçti ama Buhara direnmeden teslim oldu. Alp Arslan daha kılıç sallamadan bir şehir almıştı.

Ancak Alp Arslan için bu yeterli değildi. Buhara’dan sonra Selçuklu ordusu o dönemde Karahanlı Devleti’nin başkenti olan Semerkand’a yöneldi. Semerkand yolu üzerinde ise Barzem Kalesi vardı. Barzem Kalesi Alp Arslan’ın ordusuna direnen tek yerdi. Kale Selçuklu ordusunu tutabiliyordu ama kale komutanı Yusuf Harizmi artık kaleyi daha fazla tutamayacağını anlamıştı.