Чому ми використовуємо MLE замість OLS?

Метод OLS вимагає великих обчислень за наявності великих наборів даних. Метод оцінки максимальної правдоподібності максимізує ймовірність спостереження за набором даних із заданою моделлю та її параметрами. У лінійній регресії OLS і MLE призводять до однакового оптимального набору коефіцієнтів.23 червня 2022 р

MLE зазвичай використовується при оцінці параметрів розподілу та є ефективним для великих розмірів вибірки, але погано працює для малих розмірів вибірки . З іншого боку, OLS краще підходить для невеликих розмірів вибірки та оцінки параметрів форми, але також може оцінити параметри масштабу.

У статистиці оцінка максимальної правдоподібності (MLE). метод оцінки параметрів передбачуваного розподілу ймовірностей за деякими даними спостережень. Це досягається шляхом максимізації функції правдоподібності, щоб згідно з припущеною статистичною моделлю спостережувані дані були найбільш імовірними.

Оцінка максимальної правдоподібності (MLE) використовується в логістичній регресії, оскільки він забезпечує принциповий спосіб оцінки параметрів моделі логістичної регресії на основі спостережених даних.

Переваги MLE Асимптотично оцінки MLE стають узгодженими зі збільшенням розміру вибірки, що означає, що вони збігаються до справжніх значень параметрів з імовірністю 1 . За певних умов MLE може виробляти неупереджені оцінки параметрів популяції. Ми можемо застосувати MLE до широкого спектру статистичних моделей.

Основна ідея класифікації максимальної правдоподібності полягає в тому щоб передбачити мітку класу y, яка максимізує ймовірність наших спостережуваних даних x. Ми розглядатимемо x як випадковий вектор, а y як параметр (не випадковий), від якого залежить розподіл x.