Итак, во-первых, к моменту смерти Мухаммеда мусульманами был захвачен только небольшой кусок Саудовской Аравии. То есть все серьезные завоевания делали уже его последователи.
Во-вторых, там недалеко была античная плотина, которая раз в столетие разрушалась, что вызывало серьезные переселения племен, и за несколько десятилетий до смерти Мухаммеда как раз прошло очередное разрушение, и огромное количество арабских племен заселило соседние империи.
В-третьих, империи никогда не смотрели на Саудовскую Аравию как на источник опасности, оттуда периодически прибегали грабители, но пограбив тут же убегали назад. Империям они никогда не угрожали. А осев на каком-то захваченном месте эти грабители тут же начинали сраться между собой.
В-четвертых, к моменту начала захватов все соседи были крайне ослаблены. Византия и Сирия отходили после войн в которых особенно была покоцана Сирия, Африка была, ну, Африкой, западная римская империя все еще оставалась на самых ранних этапах варварских завоеваний.

В результате когда арабы выступили, они впервые действовали синхронизированно друг с другом (читай - не резали друг друга) потому что действовали по религиозным мотивам, считали себя священными воинами.
На землях, на которые они наступали - после разрушения плотины жили ровно те же самые арабы, и они встречали завоевателей хлебом солью.

Имперские территории были в полном раздрае. Мало того арабы даже не сносили местную администрацию, то есть действовали ровно так же как варвары, захватывающие римскую империю. То есть становились бандитской крышей для местных, причем часто были более выгодной крышей чем дохлый имперский аппарат. Отличие было в том, что варвары (готы, франки и тп) себя воинами Аллаха не считали, и поэтому быстро начинали войны между собой, а исламисты да тоже их начали, но позже (см. разделение на суннитов и шиитов).

Более того, арабы переводили в ислам только самые дикие племена. Христиан, евреев, даже зороастрийцев и буддистов они никак не трогали, обещали им защиту и только облагали налогом (то есть для тех ничего в худшую сторону не менялось). Изначально они обещали полную свободу вероисповедания для любых средневековых религий.

Более того, арабы даже не выгоняли жителей из городов, просто строили рядом свои собственные походные города.

То есть как захват варварами Римской Империи не был таким вот адским зарубом, после которого живые позавидовали мертвым. Точно так же мало что поменяли (как минимум в первые века захвата) и арабы.
Собственно поэтому и те и другие были настолько успешны.