أسس القرامطة دولة لهم في اليمن على يد علي بن الفضل لعنه الله والذي كان سبب في انتشار الدعوة القرمطية في اليمن فقد حقق هو وصاحبه الحسن بن فرج بن حوشب المعروف باسم ( منصور اليمن ) نجاحات كبيرة واستطاعا الاستيلاء على عدد من الحصون والانتصار في بعض المعارك ومنذ عام 270هـ دخل في دعوتهما باليمن خلق كثير، وشجعت هذه النجاحات الإسماعيلية في دول أخرى للهجرة إلى اليمن.
وعندما التقى علي بن الفضل بداعي الدعاة الإسماعيليين فيروز، أعلن عن "قيامة كبرى" وقال لأصحابه: "أنا الإمام المهدي الذي كنت دعوتكم إليه، فاحلقوا رؤوسكم" فحلق منهم قدر مائة ألف نفس يظنون أن ذلك شيء من الدين، وأباح لهم ما حرم عليهم، وقال: "إنما الجنة التي ذكرها الله في كتابه هي الدخول في اللذات المكتومات عن هذا الخلق المنكود... وقد أبحت لكم إظهارها" فصدقوه، وانتهكوا المحارم، ونسخ لهم الشرائع وادّعى بعد ذلك أنه نبي نسخ الله تعالى به نبوة محمد صلى الله عليه وسلم.
وقد ادعى علي بن الفضل هذا النبوة ، وأحلّ لأصحابه المحرمات ، فأحلّ شرب الخمر ونكاح البنات والأخوات ، وأظهر عقائده الإلحادية في اليمن ، وخرب الكثير من المساجد .
وهذا الخبيث لما احتل مدينة الجند باليمن سنة 292 هـ صعد منبر جامع الجند وقال هذه الأبيات :
خذي الدفّ يا هذه واضربي ***** وغنّي هزاريك ثم اطربي
تـولـّــى نبــيّ بنــي هـاشــم ***** وجـــاء نبـيّ بنـي يعــرب
لكــل نبــيّ مضـى شرعــة ***** وهــذه شرائـع هــذا النبـيّ
لقد حط عنا فروض الصلاة ***** وحـط الصيـام فلـم تتعـبي
وحـط الذنـوب علـى قـاتــل ***** ولو كان من قبل قاتـل نبيّ
أحــلّ البنات مـع الأمهــات ***** ومن فضله زاد حلّ الصبيّ
إذا الناس صلوا فلا تنهضي ***** وإن صوموا فكلي واشربي
ولا تطلبي السعي عند الصفا ***** ولا زورة القبر فـي يثرب
ولا تمنعي نفســك المعرسين ***** مـن الأقربين ومـن أجنـب
فكـيف تحـلي لهـذا الغريــب ***** وصيـرت محرمـة للأبــي
أليــس الغـراس لمـن ربـــه ***** وأسقاه فـي الزمن المجدب
وما الخمر إلا كمـا السمــاء ***** حـلال فـقـدّسـت من مذهـب
ويحدثنا د. زكار عن نهاية القرامطة في اليمن، فبعدما أعلن علي بن الفضل ما أعلنه، دخل في صراع مع ابن حوشب، استغله حكام اليمن، واستولوا على حصونهما، ومات ابن الفضل بعد عدة شهور من موت ابن حوشب سنة 303هـ، "وهكذا طويت هذه الصفحة من تاريخ القرامطة دون أن تترك أية آثار لها صفة الديمومة الإيجابية النافعة، أو الملهمة".