মাদ্রাসা শিক্ষায় প্রথম প্রতিষ্ঠান ছিল সাফা পর্বতের পাদদেশে যায়েদ-বিন-আরকামের বাড়িতে – যেখানে স্বয়ং রসুল (স:) ছিলেন শিক্ষক এবং শিক্ষার্থী ছিলেন তাঁর কয়েকজন অনুসারী নওমুসলিম। হিজরতের পর মদিনায় মসজিদে নববি-র পূর্বপাশে স্থাপিত হয় মাদ্রাসা আহলে সুফ্ফা। শিক্ষক ছিলেন উবাদা-ইবন সামিত আর শিক্ষার্থীদের মধ্যে ছিলেন আবু হুরাইরা (রা), মুয়াজ-ইবন জবল, গিফারি (রা) প্রমুখ। সেকালের মাদ্রাসার পাঠ্যসূচিতে ছিল, কোরআন, হাদিস, ফারায়েজ, প্রাথমিক চিকিৎসা, বংশ শাস্ত্র, তাজবিদ ইত্যাদি। এছাড়া অশ্ব চালনা, যুদ্ধবিদ্যা, হস্তলিপি বিদ্যা, শরীর চর্চা ইত্যাদিও পাঠ্যসূচির অন্তর্ভুক্ত ছিল। নবুয়তের প্রথম দিন থেকে উমাইয়া বংশের শাসনামলের প্রথম ভাগ পর্যন্ত প্রায় একশ বছর সময়কালকে মাদ্রাসা শিক্ষার প্রথম পর্যায় ধরা হয়।