أُنشىء قسم الفيزياء في عام 1384/ 1385هـ، كتوأم لقسم الرياضيات، وذلك عقب صدور أول لائحة لكلية التربية بجامعة الملك عبدالعزيز -شطر مكة المكرمة، وقد تخرجت عدة دفعات آنذاك على نظام التخصص المزدوج (الفيزياء والرياضيات).
واستمر العمل بهذا النظام لمدة عشر سنوات حتى عام 1394/ 1395هـ، حين فصل قسم الفيزياء عن قسم الرياضيات، وأصبح قسماً مستقلا يمنح درجة البكالوريوس في الفيزياء والفيزياء الطبية.
وفي العام التالي أدخل نظام الساعات المعتمدة فى جامعة الملك عبدالعزيز -شطر مكة المكرمة، وبدأ القسم بتقديم مقرراته وفق هذا النظام، ليستمر في منح درجة البكالوريوس في الفيزياء.
ومع تأسيس جامعة أم القرى في عام 1400/ 1401هـ، أُنشئت كلية العلوم (وكانت تعرف آنذاك بكلية العلوم التطبيقية)، وأصبح قسم الفيزياء أحد أقسامها الرئيسية. ويمنح القسم حاليا درجة البكالوريوس في الفيزياء والفيزياء الطبية، باﻹضافة إلي درجة الماجستير فى الفيزياء في ثلاثة مسارات تخصصية هي:
فيزياء الحالة المكثفة
الفيزياء النووية
الفيزياء الطبية