Ми працюємо над відновленням додатку Unionpedia у Google Play Store
ВихідніВхідний
🌟Ми спростили наш дизайн для кращої навігації!
Instagram Facebook X LinkedIn

Мінімальна довжина опису

Індекс Мінімальна довжина опису

Принцип мінімальної довжини опису (МДО, minimum description length principle, MDL) — формалізація леза Оккама, в якій найкращою гіпотезою для заданого набору даних є та, яка веде до найкращого стиснення даних.

Зміст

  1. 28 відносини: Cambridge University Press, MIT Press, Колмогоровська складність, Комп'ютерна мова, Комп'ютерна програма, Повнота за Тюрингом, Абетка, Апріорна ймовірність, Нерівність Крафта — Макміллана, Розподіл ймовірностей, Статистична модель, Статистика, Стиснення даних, Теорія інформації, Теорія ймовірностей, Теорія обчислюваності, Функція (математика), Формальна мова, Мінімальна довжина повідомлення, Бритва Оккама, Баєсова ймовірність, Баєсове виведення, Відособлена правдоподібність, Гіпотеза, Гельсінський університет, Двійкова система числення, Індукція (логіка), Йорма Рісаннен.

  2. Алгоритмічна теорія інформації

Cambridge University Press

Видавництво Кембриджського університету, Кембридж, Англія Видавництво Кембриджського університету (Cambridge University Press, скор.: CUP) — видавництво, що входить до складу Кембриджського університету в Англії.

Переглянути Мінімальна довжина опису і Cambridge University Press

MIT Press

MIT Press — видавництво Массачусетського технологічного інституту (MIT), розташоване в Кембриджі (США, штат Массачусетс).

Переглянути Мінімальна довжина опису і MIT Press

Колмогоровська складність

Складність та ентропія конструктивних об'єктів, відома як колмоговська складність, складність колмогова, стохастична складність в алгоритмічній теорії інформації, складність об'єкту(або тексту) -- є міра обчислювальних ресурсів, що необхідні для того, щоб точно визначити цей об'єкт.

Переглянути Мінімальна довжина опису і Колмогоровська складність

Комп'ютерна мова

Комп'ютерна мова (computer language) — це мова, що пов'язана з комп'ютерами та обчислювальною технікою.

Переглянути Мінімальна довжина опису і Комп'ютерна мова

Комп'ютерна програма

Комп'ютерна програма Комп'ю́терна програ́ма (Computer program) — набір інструкцій у вигляді слів, цифр, кодів, схем, символів чи у будь-якому іншому вигляді, виражених у формі, придатній для зчитування (комп'ютером), які приводять його у дію для досягнення певної мети або результату (це поняття охоплює як операційну систему, так і прикладну програму, виражені у вихідному або об'єктному кодах).

Переглянути Мінімальна довжина опису і Комп'ютерна програма

Повнота за Тюрингом

У теорії алгоритмів набір правил маніпуляції даними (набір інструкцій, мова програмування, чи клітинний автомат) вважається повним за Тюрингом тоді і тільки тоді, коли цей набір може моделювати однострічкову машину Тюринга.

Переглянути Мінімальна довжина опису і Повнота за Тюрингом

Абетка

250px Абе́тка, азбука, алфаві́т (abecedarium) — розташована в певному порядку сукупність літер, що застосовуються для запису певної мови.

Переглянути Мінімальна довжина опису і Абетка

Апріорна ймовірність

У баєсовому статистичному висновуванні апріо́рний розпо́діл ймові́рності (prior probability distribution), що часто називають просто апріо́рне (prior), деякої невизначеної кількості — це розподіл ймовірності p, що виражатиме чиєсь переконання про цю кількість перед врахуванням якогось свідчення.

Переглянути Мінімальна довжина опису і Апріорна ймовірність

Нерівність Крафта — Макміллана

У теорії кодування нерівність Крафта - Макміллана дає необхідну і достатню умову існування роздільних і префіксних кодів з заданим набором довжин кодових слів.

Переглянути Мінімальна довжина опису і Нерівність Крафта — Макміллана

Розподіл ймовірностей

гральних кісток В математиці та статистиці розпо́діл ймові́рностей (який має математично описуватися функцією розподілу ймовірностей), ставить у відповідність кожному інтервалу ймовірність таким чином, що аксіоми ймовірностей виконуються.

Переглянути Мінімальна довжина опису і Розподіл ймовірностей

Статистична модель

Статисти́чна моде́ль — абстрактна схема відношень між величинами, що характеризують властивості реального процесу, розробка якої здійснюється неформальним шляхом.

Переглянути Мінімальна довжина опису і Статистична модель

Статистика

Стати́стика — наука, що вивчає методи кількісного охоплення і дослідження масових, зокрема суспільних, явищ і процесів.

Переглянути Мінімальна довжина опису і Статистика

Стиснення даних

Сти́снення да́них (data compression) — це процедура перекодування даних, яка проводиться з метою зменшення їхнього обсягу, розміру, об'єму.

Переглянути Мінімальна довжина опису і Стиснення даних

Теорія інформації

Теóрія інформáції — це розділ математики, який досліджує процеси зберігання, перетворення і передачі інформації.

Переглянути Мінімальна довжина опису і Теорія інформації

Теорія ймовірностей

Тео́рія імові́рності — розділ математики, що вивчає закономірності випадкових явищ: випадкові події, випадкові величини, їхні функції, властивості й операції над ними.

Переглянути Мінімальна довжина опису і Теорія ймовірностей

Теорія обчислюваності

Теорія обчислюваності, також відома як теорія рекурсії, являє собою галузь математичної логіки, що заснована у 30-х роках XX ст.

Переглянути Мінімальна довжина опису і Теорія обчислюваності

Функція (математика)

Функція f відображає область визначення X в цільову множину Y; менший овал всередині Y — це область значень функції f Фу́нкція (відображення, трансформація, оператор) в математиці — це правило, яке кожному елементу з першої множини (області визначення) ставить у відповідність один і тільки один елемент з другої множини.

Переглянути Мінімальна довжина опису і Функція (математика)

Формальна мова

Синтаксичне підрозділ в рамках формальної системи. Форма́льна мо́ва — множина скінчених послідовностей символів, які описуються правилами певного виду, які називаються граматикою, або синтаксисом мови (див.

Переглянути Мінімальна довжина опису і Формальна мова

Мінімальна довжина повідомлення

Мініма́льна довжина́ повідо́млення (МДП, minimum message length, MML) — формальне перевизначення Леза Оккама в теорії інформації: навіть якщо моделі не є рівними в точності пристосованості до спостережених даних, та з них, що породжує найкоротше сукупне повідомлення, правдоподібніше є правильною (де повідомлення складається з вираження моделі, за яким слідує вираження даних, стисло закодованих із застосуванням цієї моделі).

Переглянути Мінімальна довжина опису і Мінімальна довжина повідомлення

Бритва Оккама

Ле́зо (бри́тва) О́ккама (чи принцип простоти) — принцип логіки, який приписують середньовічному філософу Вільгельму із Оккама (або Окхама).

Переглянути Мінімальна довжина опису і Бритва Оккама

Баєсова ймовірність

Ба́єсова ймові́рність (Bayesian probability) — це одна з інтерпретацій поняття ймовірності.

Переглянути Мінімальна довжина опису і Баєсова ймовірність

Баєсове виведення

Ба́єсове висно́вування (Bayesian inference) — це метод статистичного висновування, у якому для уточнення ймовірності гіпотези при отриманні додаткових свідчень або інформації використовується правило Баєса.

Переглянути Мінімальна довжина опису і Баєсове виведення

Відособлена правдоподібність

У статистиці фу́нкція відосо́бленої правдоподі́бності (marginal likelihood function) або інтегро́вана правдоподі́бність (integrated likelihood) — це функція правдоподібності, в якій деякі змінні параметри було знеособлено.

Переглянути Мінімальна довжина опису і Відособлена правдоподібність

Гіпотеза

Гіпо́теза (або засновок) — це припущення, яке перевіряють експериментально з можливих розв'язань проблеми.

Переглянути Мінімальна довжина опису і Гіпотеза

Гельсінський університет

ботанічному саду Гельсінського університету Гельсінський університет (Helsingin yliopisto, Helsingfors universitet, Universitas Helsingiensis) — один із найбільших університетів Фінляндії.

Переглянути Мінімальна довжина опису і Гельсінський університет

Двійкова система числення

Двійкова система числення — це позиційна система числення, база якої дорівнює двом та використовує для запису чисел тільки два символи: зазвичай 0 (нуль) та 1 (одиницю).

Переглянути Мінімальна довжина опису і Двійкова система числення

Індукція (логіка)

Інду́кція — це процес судження, котрий досягає висновку, що при наявному стані знань є напевно істинний, але не гарантує його.

Переглянути Мінімальна довжина опису і Індукція (логіка)

Йорма Рісаннен

Йорма Ю. Ріссанен (Jorma Rissanen) (народився 20 жовтня 1932 року) — фінський теоретик інформації, відомий як винахідник мінімальної довжини опису та практичних підходів до арифметичного кодування для стиснення даних без втрат.

Переглянути Мінімальна довжина опису і Йорма Рісаннен

Див. також

Алгоритмічна теорія інформації