從埃及前往迦南，需要穿過一片沙漠，所以吳元濟在抵達埃及東部邊城坎塔拉（今埃及塞得港以南）后，命令部隊備足水源和干糧，然后沿著海岸線繼續向東進軍。
沒想到這段沙漠比較長，部隊很快就將攜帶的水喝光，后面的路程干渴不已，后面到了沙漠中的小城阿里什才算補充了一些飲用水。部隊越過阿里什不久，總算到達迦南一帶，擺脫了缺水的危機。
部隊進入迦南以后，就進入了敘利亞總督的轄區，開始不斷有大食人的部隊過來襲擾唐軍。吳元濟率軍邊走邊戰，一路上擊潰好幾股敵人，來到迦南中部一帶。
吳元濟率軍攻擊大食軍時，發現這里的大食軍已經有了炸彈和突火槍，知道了敘利亞的大食軍也有了火器，暗叫不好。
吳元濟帶領部隊擊敗沿途的大食軍后，終于抵達迦南的重要城市耶路撒冷。耶路撒冷位于一片山上，居高臨下，敘利亞總督派了一萬多軍隊守衛這里。
吳元濟命令部隊包圍該城，準備攻下這座城市，誰知道部隊剛圍上去，大食軍就從上面往下面扔炸彈，炸彈滾下來爆炸，對圍城的部隊形成威脅。
吳元濟大怒，命令圍城的部隊離城墻遠一些，然后開始命令炮兵轟城，城內的守軍對唐軍的炮擊無計可施，只能被動挨打。
第二天，唐軍在城墻上轟開一個缺口，炮兵停止射擊后，一些唐軍試圖從缺口處沖進去，沒想到城上的大食軍又開始往下面扔炸彈，唐軍被迫撤退。
雙方都有火器，唐軍火器雖優，但耶路撒冷守軍占據地利，吳元濟有點懵圈了，不知道該怎么破局。副將鄒元標認為，守軍的炸彈畢竟扔不遠，唐軍不如改變戰術，改破城為轟城，一直用大炮轟城，守軍早晚會受不了。
吳元濟聽了以后茅塞頓開，覺得完全可以發揮唐軍炮兵的射程優勢，來個長期轟炸，吃虧的肯定是大食守軍。從此唐軍不再攻城，而是將城市遠遠圍住，一直用大炮轟擊，而且專往城內建筑物多，建筑物高大的地方轟擊。
經過連續四五天的炮轟，城內的守軍開始頂不住了，覺得如果唐軍繼續炮轟下去，整個城市都要完蛋，特別是那些重要的圣跡、寺院將毀于炮火，他們將成為歷史的罪人。
最終，城內守軍派人過來表示愿意投降，投降的條件就是唐軍不要毀壞他們的圣跡和寺院，尊重他們的信仰。
吳元濟覺得這個條件不過分，當即答應，讓守軍全部出城繳械投降。大食軍投降的部隊有八千多人，吳元濟覺得帶這些俘虜太麻煩，在他們都保證不再參加大食軍后，吳元濟將大部分普通士兵釋放，留下五百多重要分子集中關押起來。
吳元濟在耶路撒冷補充了一些軍需物資，留下一個羌戎團鎮守耶路撒冷，然后向大馬士革方向進發。
大食軍覺得硬碰不是唐軍對手，轉而采取游擊戰，專門攻擊第五路軍的補給線。吳元濟被搞的憤怒不已，到處追著大食軍打，大食軍以騎兵為主，唐軍很難捕捉。
由于后勤補給線被破壞，特別是彈藥補充非常不順，耽誤了第五路軍的行程，無法快速挺進大馬士革。
李愬原先攻占的薩曼王朝、塔希爾王朝，都屬于黑衣大食的地方勢力，未觸及黑衣大食的核心地區。黑衣大食哈里發馬蒙為了防止唐軍來攻，調集重兵在黑衣大食東部一帶，企圖將唐軍阻于波斯一帶。
在李愬認知中，在世界范圍內，黑衣大食是僅次于唐朝的帝國，是唐朝對外擴張的最強對手。唐軍雖然在怛羅斯附近擊敗了薩曼王朝的軍隊，算是報了一仇，但是尚未傷及黑衣大食的根本，這次要跟黑衣大食的本土力量對決，將是一場更加激烈的戰斗。
李愬率領第六路軍從沙普城出發，向西攻入黑衣大食的波斯地區，波斯地區的大食軍將沿途的道路挖斷，橋梁毀壞，減緩了唐軍的進程。第六路軍全部是騎兵，可以在荒野上馳騁，但是炮兵和輜重部隊仍然依賴道路和橋梁，唐軍不得不一邊架橋修路，一邊緩慢前進。
好在波斯地區相對干旱，河流不多，所以中途橋梁也很少，只是部分延緩了唐軍的進程。唐軍向西進發的過程中，大食軍并不敢來硬碰，而是派出小股騎兵不斷騷擾，均被唐軍擊退。半個多月后，第六路軍終于到達波斯的重鎮拉伊城（今伊朗德黑蘭一帶）附近。
黑衣大食波斯總督拉赫曼，帶領六萬精兵屯守在拉伊城一帶，準備在這里阻擋唐軍。馬蒙對拉赫曼寄予厚望，交給他的都是大食的精銳部隊，甚至給了他大量的火器，希望他能重現黑衣大食的榮光。
拉赫曼認為，黑衣大食依然是以冷兵器為主，新配備的炸彈和突火槍等火器，射程和威力都難以匹敵唐軍的武器，對前景并不樂觀。拉赫曼苦思冥想，想到了三個對策，一是干擾唐軍的后勤補給線，二是加固拉伊城，將城墻大幅加厚，三是在唐軍的必經之處投毒。
第六路軍進入波斯以后，大食軍就襲擾唐軍的補給線，但是唐軍在出發時帶了充足的糧草彈藥，而且沿途可以奪取波斯人的糧草，彈藥消耗不多，所以影響不大。
唐軍在往拉伊城進發的沿途較為干旱，水源不是很多，有一支唐軍先鋒部隊在引用當地的泉水時，出現集體中毒的情況，造成一百多人的死亡。
李愬對大食軍在水中投毒的行為非常憤怒，跟幾個部將商議后，決定部隊盡量在波斯人聚居的地方取水。波斯人再毒，總不能斷自己的后路，而且取水之前讓牲畜先飲用試驗一下，雖然麻煩了一些，但是確實避免了中毒的危險。
拉赫曼看到自己的三個對策被唐軍破了兩個，只能寄希望于最后一個方案，就是憑城固守。拉赫曼將三萬步兵置于城內防守，將三萬騎兵放在城外，希望通過內外合擊，打退唐軍的進攻。
李愬率軍抵達拉伊城后，決定仍采取包圍合擊的戰術，命令各個部隊分頭將拉伊城包圍起來。大食軍自然不會坐以待斃，城外的三萬騎兵不斷的襲擾圍城部隊，企圖阻止唐軍包圍拉伊城。
唐軍的圍城部隊先后和大食騎兵爆發了好幾次激戰，終于擊退敵軍，完成了對拉伊城的包圍。為了防止大食騎兵的襲擾，圍城部隊抱團行動，主要是封堵城市的進出道路，斷絕城內外的聯系。
眼見拉伊城被圍，拉赫曼只能是集中兵力做好各種防御準備，并預備了多種反擊措施，決定和唐軍決一死戰。
李愬看到拉伊城被加固了很多，決定采取連續射擊的方式，將城墻炸開一個缺口。李愬將手中的火炮分成三波，晝夜不停輪流射擊，終于在城東射出一個巨大的缺口。
主攻部隊待炮兵停止射擊后，從缺口處攻入，并向城內進發。出人意料的是，大食軍并未派部隊封堵缺口，缺口附近空無一人，仿佛人都嚇跑了。
主攻部隊感覺似乎太順了，順的有點不對頭，反而不敢快速進攻，而是沿著街道緩緩向里進發。突然，街道兩側的建筑物發出連續的爆炸，將街道內的很多唐軍炸死炸傷。
原來，唐軍在城東連續炮擊，拉赫曼判定城東就是唐軍的主攻方向，拿出庫存的炸彈運到城東一帶。趁著唐軍停止炮擊的間隙，大食軍在缺口處的建筑物內放置了大量的炸彈，除了留幾個點火的人，其他的大食軍全部撤離。
首批進城的唐軍損失慘重，被迫退出城外，清點一下竟然死傷了一千多人。首次出戰不利，李愬非常郁悶，緊急和兩個副將商議對策。
孔文侃認為，拉伊城內建筑物眾多，都可以放置炸彈，唐軍貿然進入太危險，可以采取持續炮擊的方式打擊城內大食軍。陳弘嶺則認為拉伊城位于一個山谷中的綠洲，非常依賴城外的河流供水，一旦斷絕其水源，城內也會堅持不了多久。
陳弘嶺提到水源，李愬本想來個以毒攻毒，向流入城內的河流中投毒，但是感覺這個辦法會毒死很多拉伊居民，會損害唐朝的形象，最后還是放棄了。李愬認為，即使斷絕其城外的用水，城內可以打井，徹底切斷其水源不現實，最后決定采取連續炮擊的方式。
唐軍在城東對拉伊城進行持續的炮擊，但是不派兵攻城，對城內造成了較大的破壞。唐軍炮擊了三天后，馬蒙派出一支兩萬人的援軍，會同城外的大食騎兵，進攻圍城的第六路軍。
李愬被迫收縮兵力，與大食援軍進行一番血戰，城外兩軍對戰的時候，拉赫曼又指揮城內的大食軍向外突圍，唐軍被迫兩線作戰。戰斗持續了整整一天，唐軍最終憑借火力優勢，擊敗大食援軍，并將城內的部隊打回去。
李愬認為，日久容易生變，而且唐軍的炮彈不是無限的，后勤補給難度也不小，必須要改變戰法，速戰速決。李愬忽然想到戰國時期田單的火牛陣，來了靈感，想到了攻城的破解之法。
李愬命令部隊在拉伊城周邊征集了大量的牛羊，全部驅趕到城東一帶，唐軍的炮兵對原來的缺口又炮擊了一番，并派兵將缺口附近清理了一番。
唐軍將一大群牛驅趕到缺口附近，牛尾巴上全部包上油布，然后將油布點燃，這些牛被燃燒的劇痛刺激，像發瘋了一樣朝城內沖去。
城內的大食軍故伎重演，又引爆炸彈，發現炸死的都是**，唐軍并沒有進城，就停止了引爆。唐軍此時開始驅趕羊群進城，感覺沿途的建筑物有炸彈，就驅趕一只羊進去，羊的身上帶著點燃的炸彈，將建筑物引爆。
唐軍不再急于入城，驅趕著羊群穩扎穩打，緩慢朝城內推進。拉赫曼這時開始有點蒙圈了，不愿任由唐軍進城，開始指揮大食軍反擊。
大食軍的炸彈也是有限的，主要是在缺口處的建筑物放了一些，再往里的建筑物基本就沒有炸彈了，兩軍開始了真正的對戰。
剛開始，大食軍還依托工事和建筑物，竭力抵抗唐軍的進攻。這些唐軍早就憋足了勁，進入城內以后，就開始猛烈的進攻。經過一天的激戰，大量的大食軍被消滅，唐軍取得了絕對的優勢，將殘余的大食軍壓迫到城西一帶。
經過一段時間的較量，拉赫曼自知不是唐軍的對手，拉伊城被攻占已經無可逆轉，決定趁夜突圍。半夜時分，拉赫曼集中精銳從西門拼死向外突圍，唐軍圍城部隊雖然殺傷了大量的大食軍，拉赫曼還是成功帶領一些親兵成功突圍，向西倉皇逃去。
拉赫曼逃走以后，城內殘余的大食軍更無斗志，在第二天紛紛向唐軍投降。李愬接收降兵后，終于占領拉伊城，不禁長舒了一口氣，帶領部隊進城休整一番。
拉赫曼往西逃了一段，然后就收攏殘兵，加上原來被唐軍擊敗的援軍，形成了一支有兩萬多人的騎兵部隊。拉赫曼雖然打不過唐軍，但也不甘心失敗，就持續襲擾唐軍的補給線，讓唐軍也不好過。
李愬占領拉伊城后，本想乘勝追擊，但是補給線持續被襲擾，嚴重影響了唐軍的行動。在拉伊之戰中，唐軍消耗了大量的彈藥，必須要予以補充，否則根本無法進行后面的戰事。