الانحدار الخطي والانحدار اللوجستي هما خوارزميتان مشهورتان للتعلم الآلي تخضعان لتقنية التعلم الخاضع للإشراف. نظرًا لأن كلتا الخوارزميتين خاضعتان للإشراف بطبيعتهما، فإن هذه الخوارزميات تستخدم مجموعة بيانات مصنفة لإجراء التنبؤات. ولكن الفرق الرئيسي بينهما هو كيفية استخدامها. يستخدم الانحدار الخطي لحل مشاكل الانحدار بينما يستخدم الانحدار اللوجستي لحل مشاكل التصنيف. ويرد وصف كل من الخوارزميات أدناه مع جدول الفرق.
الانحدارالخطي:
- يعد الانحدار الخطي أحد أبسط خوارزميات التعلم الآلي التي تندرج ضمن تقنية التعلم الخاضع للإشراف وتستخدم لحل مشكلات الانحدار.
- يتم استخدامه للتنبؤ بالمتغير التابع المستمر بمساعدة المتغيرات المستقلة.
- الهدف من الانحدار الخطي هو العثور على أفضل خط ملائم يمكنه التنبؤ بدقة بمخرجات المتغير التابع المستمر.
- إذا تم استخدام متغير مستقل واحد للتنبؤ فإنه يسمى الانحدار الخطي البسيط وإذا كان هناك أكثر من متغيرين مستقلين فإن هذا الانحدار يسمى الانحدار الخطي المتعدد.
- من خلال إيجاد أفضل خط ملائم، تحدد الخوارزمية العلاقة بين المتغير التابع والمتغير المستقل. ويجب أن تكون العلاقة ذات طبيعة خطية.
- يجب أن يكون ناتج الانحدار الخطي هو القيم المستمرة فقط مثل السعر والعمر والراتب وما إلى ذلك. ويمكن إظهار العلاقة بين المتغير التابع والمتغير المستقل في الصورة أدناه:
في الصورة أعلاه المتغير التابع على المحور ص (الراتب) والمتغير المستقل على المحور السيني (الخبرة). يمكن كتابة خط الانحدار على النحو التالي:
y= a<sub>0</sub>+a<sub>1</sub>x+ ε
اين ا0و أ1هي المعاملات و ε هو مصطلح الخطأ.
الانحدار اللوجستي:
- يعد الانحدار اللوجستي أحد أكثر خوارزميات التعلم الآلي شيوعًا والتي تندرج ضمن تقنيات التعلم الخاضع للإشراف.
- ويمكن استخدامه للتصنيف وكذلك لمشكلات الانحدار، ولكنه يستخدم بشكل أساسي لمشكلات التصنيف.
- يستخدم الانحدار اللوجستي للتنبؤ بالمتغير التابع القاطع بمساعدة المتغيرات المستقلة.
- يمكن أن يكون ناتج مشكلة الانحدار اللوجستي بين 0 و 1 فقط.
- يمكن استخدام الانحدار اللوجستي عندما تكون الاحتمالات بين فئتين مطلوبة. مثل هل ستمطر اليوم أم لا، إما 0 أو 1، صحيح أو خطأ وما إلى ذلك.
- يعتمد الانحدار اللوجستي على مفهوم تقدير الاحتمالية القصوى. ووفقا لهذا التقدير، ينبغي أن تكون البيانات المرصودة هي الأكثر احتمالا.
- في الانحدار اللوجستي، نقوم بتمرير المجموع المرجح للمدخلات من خلال وظيفة التنشيط التي يمكنها تعيين القيم بين 0 و 1. تُعرف وظيفة التنشيط هذه باسم وظيفة السيني ويسمى المنحنى الذي تم الحصول عليه بالمنحنى السيني أو المنحنى S. النظر في الصورة أدناه:
- معادلة الانحدار اللوجستي هي:
الفرق بين الانحدار الخطي والانحدار اللوجستي:
| الانحدارالخطي | الانحدار اللوجستي |
|---|---|
| يستخدم الانحدار الخطي للتنبؤ بالمتغير التابع المستمر باستخدام مجموعة معينة من المتغيرات المستقلة. | يستخدم الانحدار اللوجستي للتنبؤ بالمتغير التابع القاطع باستخدام مجموعة معينة من المتغيرات المستقلة. |
| يستخدم الانحدار الخطي لحل مشكلة الانحدار. | يستخدم الانحدار اللوجستي لحل مشاكل التصنيف. |
| في الانحدار الخطي، نتوقع قيمة المتغيرات المستمرة. | في الانحدار اللوجستي، نتوقع قيم المتغيرات الفئوية. |
| في الانحدار الخطي، نجد أفضل خط مناسب، والذي يمكننا من خلاله التنبؤ بالناتج بسهولة. | في الانحدار اللوجستي نجد منحنى S الذي يمكننا من خلاله تصنيف العينات. |
| يتم استخدام طريقة تقدير المربع الأصغر لتقدير الدقة. | يتم استخدام طريقة تقدير الاحتمالية القصوى لتقدير الدقة. |
| يجب أن يكون ناتج الانحدار الخطي قيمة مستمرة، مثل السعر والعمر وما إلى ذلك. | يجب أن يكون ناتج الانحدار اللوجستي قيمة فئوية مثل 0 أو 1، أو نعم أو لا، وما إلى ذلك. |
| في الانحدار الخطي، يشترط أن تكون العلاقة بين المتغير التابع والمتغير المستقل خطية. | في الانحدار اللوجستي، ليس من الضروري وجود علاقة خطية بين المتغير التابع والمتغير المستقل. |
| في الانحدار الخطي، قد يكون هناك علاقة خطية متداخلة بين المتغيرات المستقلة. | في الانحدار اللوجستي، لا ينبغي أن يكون هناك علاقة خطية متداخلة بين المتغير المستقل. |