مثير للإعجاب

استكشاف أمثلة تقدير احتمال الحد الأقصى

استكشاف أمثلة تقدير احتمال الحد الأقصى

لنفترض أن لدينا عينة عشوائية من السكان موضع الاهتمام. قد يكون لدينا نموذج نظري للطريقة التي يتم بها توزيع السكان. ومع ذلك ، قد يكون هناك العديد من المعلمات السكانية التي لا نعرف القيم. يمثل تقدير الاحتمالية الأقصى طريقة واحدة لتحديد هذه المعلمات غير المعروفة.

الفكرة الأساسية وراء الحد الأقصى لتقدير الاحتمالية هي أننا نحدد قيم هذه المعلمات غير المعروفة. نحن نفعل ذلك بطريقة تعظيم دالة كثافة الاحتمال المشتركة أو وظيفة كتلة الاحتمال. سوف نرى هذا بمزيد من التفصيل في ما يلي. ثم سنقوم بحساب بعض الأمثلة لتقدير الاحتمالية القصوى.

خطوات تقدير احتمالية الحد الأقصى

يمكن تلخيص المناقشة أعلاه بالخطوات التالية:

  1. ابدأ بعينة من المتغيرات العشوائية المستقلة X1، العاشر2، ...ن من توزيع مشترك لكل منها دالة كثافة الاحتمال f (x؛ θ1,… θك). thetas هي معلمات غير معروفة.
  2. نظرًا لأن عينتنا مستقلة ، يتم العثور على احتمال الحصول على عينة محددة نلاحظها بضرب احتمالاتنا معًا. هذا يعطينا وظيفة الاحتمال L (θ1,… θك) = و (س11,… θك) و (س21,… θك) ... و (سن1,… θك) = Π f (xأنا1,… θك).
  3. بعد ذلك ، نستخدم حساب التفاضل والتكامل للعثور على قيم ثيتا التي تزيد من وظيفة احتمال لدينا L.
  4. وبشكل أكثر تحديداً ، نفرق بين دالة الاحتمال L فيما يتعلق θ إذا كانت هناك معلمة واحدة. إذا كانت هناك معلمات متعددة ، فإننا نحسب مشتقات جزئية من L فيما يتعلق بكل من معلمات ثيتا.
  5. لمتابعة عملية تحقيق الحد الأقصى ، قم بتعيين مشتق L (أو مشتقات جزئية) يساوي الصفر وحل لـ theta.
  6. يمكننا بعد ذلك استخدام تقنيات أخرى (مثل اختبار مشتق ثانٍ) للتحقق من أننا وجدنا الحد الأقصى لوظيفة الاحتمال لدينا.

مثال

لنفترض أن لدينا مجموعة من البذور ، لكل منها احتمال ثابت ص نجاح الإنبات. نحن نزرع ن هذه وحساب عدد من تنبت. افترض أن كل براعم بذرة مستقلة عن الآخرين. كيف يمكننا تحديد الحد الأقصى لمقدّر الاحتمال للمعلمة ص?

نبدأ بالإشارة إلى أن كل بذرة تم تصميمها بواسطة توزيع برنولي بنجاح ص. نحن نسمح X تكون إما 0 أو 1 ، ووظيفة الكتلة الاحتمالية لبذرة واحدة هي F(س ؛ ص ) = صس(1 - ص)1 - س

عينة لدينا تتكون من نمختلف Xأنا، كل من لديه توزيع برنولي. البذور التي تنبت لديها Xأنا = 1 والبذور التي تفشل في تنبت Xأنا = 0. 

يتم إعطاء وظيفة الاحتمال بواسطة:

L ( ص ) = Π صسأنا(1 - ص)1 - سأنا

نرى أنه من الممكن إعادة كتابة دالة الاحتمالية باستخدام قوانين الأسس.

L ( ص ) = صΣ سأنا(1 - ص)ن - Σ سأنا

التالي نحن نفرق هذه الوظيفة فيما يتعلق ص. نحن نفترض أن القيم لجميع Xأنا معروفة ، وبالتالي فهي ثابتة. لتمييز وظيفة الاحتمال ، نحتاج إلى استخدام قاعدة المنتج جنبًا إلى جنب مع قاعدة الطاقة:

L '( ص ) = Σ سأناص-1 + Σ xأنا (1 - ص)ن - Σ سأنا- (ن - Σ سأنا ) عΣ سأنا(1 - ص)ن-1 - Σ سأنا

نعيد كتابة بعض الأسس السلبية ولدينا:

L '( ص ) = (1/ص) Σ سأناصΣ سأنا (1 - ص)ن - Σ سأنا- 1/(1 - ص) (ن - Σ سأنا ) عΣ سأنا(1 - ص)ن - Σ سأنا

= (1/ص) Σ سأنا- 1/(1 - ص) (ن - Σ سأنا)أناصΣ سأنا (1 - ص)ن - Σ سأنا

الآن ، من أجل مواصلة عملية التعظيم ، وضعنا هذا المشتق يساوي الصفر ونحل ص:

0 = (1/ص) Σ سأنا- 1/(1 - ص) (ن - Σ سأنا)أناصΣ سأنا (1 - ص)ن - Σ سأنا

منذ ص و 1- ص) هي غير صفرية لدينا ذلك

0 = (1/ص) Σ سأنا- 1/(1 - ص) (ن - Σ سأنا).

ضرب طرفي المعادلة ب ص(1- ص) يعطينا:

0 = (1 - ص) Σ سأنا- ص (ن - Σ سأنا).

نوسع الجانب الأيمن ونرى:

0 = Σ xأنا- ص Σ سأنا- ص ن + pΣ xأنا = Σ سأنا - ص ن.

هكذا Σ xأنا = ص ن و (1 / n) Σ xأنا= ص. هذا يعني أن أقصى تقدير لمقدار ص هو عينة يعني. وبشكل أكثر تحديدا ، هذه هي نسبة عينة من البذور التي تنبت. هذا يتماشى تماما مع ما يمكن أن يخبرنا الحدس. من أجل تحديد نسبة البذور التي سوف تنبت ، فكر أولاً في عينة من السكان المعنيين.

تعديلات على الخطوات

هناك بعض التعديلات على قائمة الخطوات المذكورة أعلاه. على سبيل المثال ، كما رأينا أعلاه ، من المفيد عادة قضاء بعض الوقت في استخدام بعض الجبر لتبسيط التعبير عن دالة الاحتمالية. والسبب في ذلك هو جعل التمايز أسهل في التنفيذ.

تغيير آخر إلى قائمة الخطوات أعلاه هو النظر في اللوغاريتمات الطبيعية. سيحدث الحد الأقصى للوظيفة L في نفس النقطة كما يحدث للوغاريتم الطبيعي لـ L. وبالتالي فإن تعظيم ln L يعادل تعظيم الوظيفة L.

في كثير من الأحيان ، نظرًا لوجود وظائف الأس في L ، فإن تبني اللوغاريتم الطبيعي لـ L يسهل كثيرًا من عملنا.

مثال

نرى كيفية استخدام اللوغاريتم الطبيعي من خلال إعادة النظر في المثال أعلاه. نبدأ مع وظيفة الاحتمال:

L ( ص ) = صΣ سأنا(1 - ص)ن - Σ سأنا .

ثم نستخدم قوانين اللوغاريتم ونرى ما يلي:

R ( ص ) = Ln L ( ص ) = Σ سأنا قانون الجنسية ص + (ن - Σ سأنا) ليرة لبنانية (1 - ص).

نرى بالفعل أن المشتق أسهل بكثير في حسابه:

R '( ص ) = (1/ص) Σ سأنا - 1/(1 - ص)(ن - Σ سأنا) .

الآن ، كما كان من قبل ، وضعنا هذا المشتق يساوي الصفر وضرب كلا الجانبين ب ص (1 - ص):

0 = (1- ص ) Σ سأنا ص(ن - Σ سأنا) .

نحن نحل ل ص وتجد نفس النتيجة كما كان من قبل.

استخدام اللوغاريتم الطبيعي لـ L (p) مفيد بطريقة أخرى. من الأسهل بكثير حساب مشتق ثانٍ من R (p) للتحقق من أن لدينا بالفعل الحد الأقصى عند النقطة (1 / n) Σ xأنا= ص.

مثال

على سبيل المثال ، افترض أن لدينا عينة عشوائية X1، العاشر2، ...ن من السكان التي نمثلها مع توزيع الأسي. دالة كثافة الاحتمال لمتغير عشوائي واحد من النموذج F( س ) = θ-1 البريد -x

يتم إعطاء دالة الاحتمال بواسطة دالة كثافة الاحتمال المشتركة. هذا هو نتاج العديد من وظائف الكثافة:

L (θ) = Π θ-1 البريد -xأنا= θ-n البريد سأنا

 

مرة أخرى ، من المفيد مراعاة اللوغاريتم الطبيعي لوظيفة الاحتمالية. يتطلب التمييز بين هذا العمل عملاً أقل من التمييز بين وظيفة الاحتمالية:

R (θ) = ln L (θ) = ln θ-n البريد سأنا

نستخدم قوانين اللوغاريتمات الخاصة بنا ونحصل على:

R (θ) = ln L (θ) = - ن ln θ + -Σسأنا

نحن نفرق فيما يتعلق بـ have ولدينا:

R '(θ) = - ن / θ + Σسأنا2

اضبط هذا المشتق على الصفر ونرى أن:

0 = - ن / θ + Σسأنا2.

اضرب كلا الجانبين ب θ2 والنتيجة هي:

0 = - ن θ + Σسأنا.

الآن استخدم الجبر لحل من أجل θ:

θ = (1 / n) Σسأنا.

نرى من هذا أن العينة تعني ما يزيد من وظيفة الاحتمالية. يجب أن تكون المعلمة θ لتتناسب مع نموذجنا هي ببساطة كل ملاحظاتنا.

روابط

هناك أنواع أخرى من المقدرين. يسمى نوع بديل واحد من التقدير المقدر غير المتحيز. بالنسبة لهذا النوع ، يجب علينا حساب القيمة المتوقعة للإحصاء لدينا وتحديد ما إذا كانت تطابق معلمة مقابلة.


شاهد الفيديو: مبادئ الإحصاء 5 - التوزيع التكراري للفئات (يوليو 2021).