WikiDer > Ауытқудың ақпараттық критерийі - Википедия

Deviance information criterion - Wikipedia

The ауытқу критерийі (DIC) Бұл иерархиялық модельдеу жалпылау Akaike ақпараттық критерийі (AIC). Бұл әсіресе пайдалы Байес модель таңдау проблемалар артқы бөлу туралы модельдер арқылы алынған Марков тізбегі Монте-Карло (MCMC) модельдеу. DIC - бұл асимптотикалық жуықтау өйткені үлгі мөлшері AIC сияқты үлкен болады. Ол болған кезде ғана жарамды артқы бөлу шамамен көп айнымалы қалыпты.

Анықтама

Анықтаңыз ауытқу сияқты ${ displaystyle D ( theta) = - 2 log (p (y | theta)) + C ,}$ , қайда ${ displaystyle y}$ деректер болып табылады, ${ displaystyle theta}$ модельдің белгісіз параметрлері болып табылады және ${ displaystyle p (y | theta)}$ болып табылады ықтималдылық функциясы. ${ displaystyle C}$ әр түрлі модельдерді салыстыратын барлық есептеулерден бас тартатын тұрақты болып табылады, сондықтан оны білу қажет емес.

Модель параметрлерінің тиімді саны үшін жалпы қолданыстағы екі есептеу бар. Бірінші, сипатталғандай Шпигельхалтер және басқалар. (2002 ж, б. 587), ${ displaystyle p_ {D} = { үстіңгі сызық {D ( theta)}} - D ({ bar { theta}})}$ , қайда ${ displaystyle { bar { theta}}}$ күту болып табылады ${ displaystyle theta}$ . Екінші, сипатталғандай Гельман және басқалар. (2004 ж.), б. 182) ${ displaystyle p_ {D} = p_ {V} = { frac {1} {2}} { overline { operatorname {var} left (D ( theta) right)}}}$ . Параметрлердің тиімді саны неғұрлым көп болса, Жеңілірек ол модельге сәйкес келеді, сондықтан ауытқуды жазалау керек.

Ақпараттың ауытқу критерийі келесідей есептеледі

{ displaystyle mathrm {DIC} = p_ {D} + { overline {D ( theta)}},}

немесе сол сияқты

{ displaystyle mathrm {DIC} = D ({ bar { theta}}) + 2p_ {D}.}

Осы соңғы формадан AIC-пен байланыс айқынырақ көрінеді.

Мотивация

Идеясы үлкен DIC бар модельдерге қарағанда DIC аз модельдерге артықшылық беру керек. Модельдер мәні бойынша да жазаланады ${ displaystyle { bar {D}}}$ , бұл жақсы сәйкестікті қолдайды, бірақ сонымен қатар (AIC-ке ұқсас) параметрлердің тиімді саны бойынша ${ displaystyle p_ {D}}$ . Бастап ${ displaystyle { bar {D}}}$ модельдегі параметрлер саны артқан сайын азаяды, ${ displaystyle p_ {D}}$ термин бұл әсерді параметрлер саны азырақ модельдерге артықшылық беру арқылы өтейді.

Байес моделін таңдау жағдайында DIC-тің басқа критерийлерден артықшылығы - DIC-ті Марков тізбегі Монте-Карло модельдеуінен алынған үлгілерден оңай есептеу. AIC ықтималдығын максималды түрде есептеуді қажет етеді ${ displaystyle theta}$ , бұл MCMC модельдеуінен оңай қол жетімді емес. Бірақ DIC есептеу үшін жай есептеу керек ${ displaystyle { bar {D}}}$ орташа ретінде ${ displaystyle D ( theta)}$ сынамаларының үстінен ${ displaystyle theta}$ , және ${ displaystyle D ({ bar { theta}})}$ мәні ретінде ${ displaystyle D}$ үлгілерінің орташа мәні бойынша бағаланады ${ displaystyle theta}$ . Сонда DIC осы жуықтаулардан тікелей шығады. Клескенс пен Хьорт (2008 ж., 3.5) DIC-тің екенін көрсетеді үлкен үлгі AIC-тің табиғи модель-сенімді нұсқасына баламалы.

Болжамдар

DIC-ті шығарған кезде болашақ бақылауларды тудыратын ықтималдықтар үлестірімінің көрсетілген параметрлік отбасы шынайы үлгіні қамтиды деп есептеледі. Бұл болжам әрдайым орындала бермейді және сол сценарий бойынша бағалаудың үлгілік процедураларын қарастырған жөн.

Сонымен қатар, бақыланатын деректер артқы үлестірімді құру үшін де, болжамды модельдерді бағалау үшін де қолданылады. шамадан тыс жабдықталған модельдер.

Кеңейтімдер

Жоғарыда аталған мәселелер бойынша шешім қабылданды Андо (2007), Байесияның болжамды ақпараттық критерийінің (BPIC) ұсынысымен. Андо (2010, 8-б.) Әртүрлі Байес модельдерін таңдау критерийлерін талқылады. DIC-тің артық проблемаларын болдырмау үшін, Андо (2011) болжамды көзқарас тұрғысынан Байес моделін таңдау критерийлерін әзірледі. Критерий ретінде есептеледі

{ displaystyle { mathit {IC}} = { bar {D}} + 2p_ {D} = - 2 mathbf {E} ^ { theta} [ log (p (y | theta))] + 2p_ {D}.}

Бірінші термин - бұл модельдің деректерге қаншалықты сәйкес келетіндігін анықтайтын өлшем, ал екінші термин - модельдің күрделілігіне қатысты жаза. Назар аударыңыз $б$ бұл өрнекте жоғарыдағы ықтималдылықтан гөрі болжамды тарату.

Сондай-ақ қараңыз

Әдебиеттер тізімі

Андо, Томохиро (2007). «Иерархиялық Байес және эмпирикалық Байес модельдерін бағалаудың Байес болжамды ақпараттық критерийі». Биометрика. 94 (2): 443–458. дои:10.1093 / biomet / asm017.CS1 maint: ref = harv (сілтеме)
Андо, Т. (2010). Байес модельдерін таңдау және статистикалық модельдеу, CRC Press. 7-тарау.
Андо, Томохиро (2011). «Болжамдық Байес моделін таңдау». Математикалық және басқару ғылымдарының американдық журналы. 31 (1–2): 13–38. дои:10.1080/01966324.2011.10737798. S2CID 123680697.CS1 maint: ref = harv (сілтеме)
Клескенс, Дж, және Хьорт, Н.Л. (2008). Үлгіні таңдау және үлгінің орташалануы, Кембридж. 3.5 бөлім.
Гельман, Эндрю; Карлин, Джон Б .; Штерн, Халь С .; Рубин, Дональд Б. (2004). Байес деректерін талдау: екінші басылым. Статистикалық ғылымдағы мәтіндер. CRC Press. ISBN 978-1-58488-388-3. LCCN 2003051474. МЫРЗА 2027492.CS1 maint: ref = harv (сілтеме)
ван дер Линде, А. (2005). «Айнымалы таңдаудағы DIC», Statistica Neerlandica, 59: 45-56. дой:10.1111 / j.1467-9574.2005.00278.x
Шпигельхалтер, Дэвид Дж.; Үздік, Никола Г.; Карлин, Брэдли П .; ван дер Линде, Анжелика (2002). «Модельдік күрделілік пен жарасымдылықтың Байес өлшемдері (пікірталаспен)». Корольдік статистикалық қоғам журналы, B сериясы. 64 (4): 583–639. дои:10.1111/1467-9868.00353. JSTOR 3088806. МЫРЗА 1979380.CS1 maint: ref = harv (сілтеме)
Шпигельхалтер, Дэвид Дж.; Үздік, Никола Г.; Карлин, Брэдли П .; ван дер Линде, Анжелика (2014). «Ауытқу критерийі: 12 жыл (пікірталаспен)». Корольдік статистикалық қоғам журналы, B сериясы. 76 (3): 485–493. дои:10.1111 / rssb.12062.CS1 maint: ref = harv (сілтеме)

Сыртқы сілтемелер

McElreath, Ричард (29 қаңтар, 2015). «Статистикалық қайта қарау 8-дәріс (DIC және басқа ақпараттық өлшемдер бойынша)» - арқылы YouTube.

Navigation