كان معهد اللغة العربية أحد المراكز التابعة لكلية الشريعة والدراسات الإسلامية بجامعة الملك عبدالعزيز  شطر مكة المكرمة، وكان به قسم واحد هو قسم تعليم اللغة العربية، ثم صدر الأمر السامي الكريم رقم 7/ي/52127، وتاريخ 30/11/1399هـ بتحويل المركز إلى معهد ذي عمادة مستقلة، ثم صدر قرار المجلس الأعلى لجامعة الملك عبدالعزيز في اجتماعه الثامن والعشرين المنعقد في 18/4/1401هـ (قبل قيام جامعة أم القرى) متضمناً موافقة المجلس الأعلى على قيام المعهد بأقسامه العلمية حسب الصيغة المرفقة بالقرار، والقسم هو أحد الأقسام المشار إليها. ثم صدر الأمر الملكي الكريم رقم م/39في28/9/1401هـ الذي يشير إلى قرار مجلس الوزراء رقم 190 في 19/9/1401هـ بالموافقة على نظام جامعة أم القرى الذي يشمل المعهد بأقسامه، ومن ضمنها قسم التخصص.

كانت مدة الدراسة به ثلاث سنوات؛ سنتان للدبلوم العام، وسنة للدبلوم الخاص. وفي عام 1407هـ تمت الموافقة على معادلة الدبلوم الخاص بالبكالوريوس، وذلك في الجلسة الرابعة لمجلس جامعة أم القرى المنعقدة في ذلك العام. وعند تحول الدراسة في الجامعة في عام 1412هـ إلى نظام المستويات أصبحت الدارسة بالقسم مدة أربع سنوات.

يقوم القسم بتأهيل وتدريب الطلاب ليكونوا معلمين متخصصين لغوياً وتدريسياً في تعليم اللغة العربية كلغة ثانية لتعليمها للمسلمين في بلادهم (في أقسام اللغة العربية في المدارس المتوسطة والثانوية والجامعة)، مما يستلزم ذلك إعداده إعداداً خاصاً يتناسب مع ما يتطلبه التعليم في بلدان العالم المختلفة.