تأسس قسم الرياضيات مع تأسيس كلية المعلمين في مكة المكرمة، عام 1396هـ، وكانت تسمى "الكلية المتوسطة". وكان القسم أكبر أقسام الكلية، ودعامة أساسية لتخريج مدرسين أكفاء لتدريس الرياضيات في التعليم العام، وبخاصة المرحلة الابتدائية.
أنشأ قسمُ الرياضيات منذ بداية تأسيسه معملَ الرياضيات للمرحلة الابتدائية لتدريب مدرسي الرياضيات على استخدام وتطبيق الوسائل التعليمية اللازمة والضرورية في التدريس، إضافةً إلى تدريبهم على كيفية عمل الوسائل التعليمية غير المتوافرة، والتي تساعد في الشرح والتطبيق في الفصول الدراسية للمراحل التعليمية.
في بداية نشأة الكلية كان القسم يمنح "الدبلوم" في الرياضيات للتدريس في المرحلة الابتدائية، بعد الدراسة لمدة عامين دراسيين. وفي عام 1400هـ عند افتتاح مركز العلوم والرياضيات منح القسم دبلوم مركز العلوم والرياضيات "تخصص رياضيات" لدارسي المركز وطلابه للتدريس في المرحلة المتوسطة.
في عام 1409هـ، تم تطبيق برنامج البكالوريوس؛ حيث أصبحت مدة الدراسة في القسم أربع سنوات، يدرس الطالب خلالها منهجاً مكثفاً في الرياضيات ليمنح بعدها درجة البكالوريوس في الرياضيات.
في عام 1422هـ، تم تطبيق برنامج "مسار الرياضيات"؛ مدة الدراسة فيه أربع سنوات يحصل الطالب بعدها على درجة البكالوريوس في الرياضيات الذي يؤهله للتدريس في المرحلة المتوسطة والثانوية، مع استمرار برنامج البكالوريوس للتعليم الابتدائي.
في عام 1428هـ، تم ضم كلية المعلمين في مكة المكرمة إلى جامعة أم القرى في مكة المكرمة.
في عام 1430هـ، تم اعتماد تغيير مسمى كلية المعلمين في مكة المكرمة إلى "الكلية الجامعية في محافظة الجموم".
في عام 1433هـ، تم تطبيق برنامج "الرياضيات"، مدة الدراسة فيه أربع سنوات، يحصل الطالب بعدها درجة البكالوريوس في الرياضيات.
في عام 1433هـ، تم تغيير الخطة الدراسية لتكون متوافقة مع رسالة كلية العلوم، فأصبحت تهدف إلى إعداد كوادر علمية عالية الجودة، تمتلك مهارة ومنطقية في معالجة القضايا العلمية، كما تؤهل الخريج للعمل في مجال البحث العلمي وفي قطاعات التعليم والبنوك.