المعلمات الفائقة في التعلم الآلي هي تلك المعلمات التي يحددها المستخدم بشكل صريح للتحكم في عملية التعلم. تُستخدم هذه المعلمات الفائقة لتحسين تعلم النموذج، ويتم تعيين قيمها قبل بدء عملية تعلم النموذج.
سنناقش في هذا الموضوع أحد أهم مفاهيم التعلم الآلي، أي المعلمات الفائقة، وأمثلتها، ضبط المعلمات الفائقة، فئات المعلمات الفائقة، كيف تختلف المعلمة الفائقة عن المعلمة في التعلم الآلي؟ ولكن قبل البدء، دعونا أولاً نفهم المعلمة الفائقة.
ما هي المعلمات الفائقة؟
في التعلم الآلي/التعلم العميق، يتم تمثيل النموذج من خلال معلماته. في المقابل، تتضمن عملية التدريب اختيار أفضل/أفضل المعلمات الفائقة التي تستخدمها خوارزميات التعلم لتوفير أفضل نتيجة. إذًا، ما هي هذه المعلمات الفائقة؟ الجواب هو، ' يتم تعريف المعلمات الفائقة على أنها المعلمات التي تم تحديدها بشكل صريح من قبل المستخدم للتحكم في عملية التعلم.
هنا تشير البادئة 'hyper' إلى أن المعلمات هي معلمات المستوى الأعلى المستخدمة في التحكم في عملية التعلم. يتم تحديد قيمة المعلمة الفائقة وتعيينها بواسطة مهندس التعلم الآلي قبل أن تبدأ خوارزمية التعلم في تدريب النموذج. وبالتالي، فهي خارجية بالنسبة للنموذج، ولا يمكن تغيير قيمها أثناء عملية التدريب .
تم إنشاء مثيل لجافا
بعض الأمثلة على المعلمات الفائقة في التعلم الآلي
- k في خوارزمية kNN أو K-Nearest Neighbor
- معدل التعلم لتدريب الشبكة العصبية
- نسبة تقسيم اختبار التدريب
- حجم الدفعة
- عدد العصور
- الفروع في شجرة القرار
- عدد المجموعات في خوارزمية التجميع
الفرق بين المعلمة والمعلمة الفائقة؟
هناك دائمًا ارتباك كبير بين المعلمات والمعلمات الفائقة أو المعلمات الفائقة للنموذج. لذا، من أجل إزالة هذا الالتباس، دعونا نفهم الفرق بينهما وكيفية ارتباطهما ببعضهما البعض.
معلمات النموذج:
معلمات النموذج هي متغيرات تكوين داخلية للنموذج، ويتعلمها النموذج من تلقاء نفسه. على سبيل المثال ، W أوزان أو معاملات المتغيرات المستقلة في نموذج الانحدار الخطي . أو أوزان أو معاملات المتغيرات المستقلة في SVM، والوزن، والتحيزات للشبكة العصبية، والنقطه الوسطى العنقودية في التجميع. بعض النقاط الرئيسية لمعلمات النموذج هي كما يلي:
- يتم استخدامها بواسطة النموذج لإجراء التنبؤات.
- يتم تعلمها بواسطة النموذج من البيانات نفسها
- عادةً لا يتم ضبط هذه الإعدادات يدويًا.
- هذه هي أجزاء النموذج ومفتاح خوارزمية التعلم الآلي.
المعلمات الفائقة للنموذج:
المعلمات الفائقة هي تلك المعلمات التي يحددها المستخدم بشكل صريح للتحكم في عملية التعلم. بعض النقاط الرئيسية لمعلمات النموذج هي كما يلي:
- عادةً ما يتم تحديدها يدويًا بواسطة مهندس التعلم الآلي.
- لا يمكن للمرء أن يعرف بالضبط أفضل قيمة للمعلمات الفائقة للمشكلة المحددة. يمكن تحديد أفضل قيمة إما عن طريق القاعدة العامة أو عن طريق التجربة والخطأ.
- بعض الأمثلة على المعلمات الفائقة هي معدل التعلم لتدريب الشبكة العصبية، K في خوارزمية KNN،
فئات المعلمات الفائقة
يمكن تقسيم المعلمات الفائقة بشكل عام إلى فئتين، كما يلي:
المعلمة الفائقة للتحسين
تُعرف عملية اختيار أفضل المعلمات الفائقة لاستخدامها باسم ضبط المعلمات الفائقة، كما تُعرف عملية الضبط أيضًا باسم تحسين المعلمات الفائقة. يتم استخدام معلمات التحسين لتحسين النموذج.
فيما يلي بعض معلمات التحسين الشائعة:
ملاحظة: يعد معدل التعلم معلمة تشعبية مهمة لتحسين النموذج، لذا إذا كانت هناك حاجة لضبط معلمة تشعبية واحدة فقط، فمن المقترح ضبط معدل التعلم.
Hyperparameter لنماذج محددة
تُعرف المعلمات الفائقة المشاركة في بنية النموذج باسم المعلمات الفائقة لنماذج محددة. هذه مذكورة أدناه:
من المهم تحديد عدد الوحدات المخفية للمعلمة الفائقة للشبكة العصبية. يجب أن يكون بين حجم طبقة الإدخال وحجم طبقة الإخراج. وبشكل أكثر تحديدًا، يجب أن يكون عدد الوحدات المخفية 2/3 من حجم طبقة الإدخال، بالإضافة إلى حجم طبقة الإخراج.
بالنسبة للوظائف المعقدة، من الضروري تحديد عدد الوحدات المخفية، ولكن لا ينبغي أن يفرط في احتواء النموذج.
خاتمة
المعلمات الفائقة هي المعلمات التي تم تعريفها بشكل صريح للتحكم في عملية التعلم قبل تطبيق خوارزمية التعلم الآلي على مجموعة البيانات. وتستخدم هذه لتحديد القدرة على التعلم وتعقيد النموذج. يتم استخدام بعض المعلمات الفائقة لتحسين النماذج، مثل حجم الدفعة، ومعدل التعلم، وما إلى ذلك، وبعضها خاص بالنماذج، مثل عدد الطبقات المخفية، وما إلى ذلك.