Основи статистичної теорії інформації

разі, коли стан системи R цілком визначений і відомий стан системи Y. А це буде тоді, коли R є однозначною функцією від Y (її гомоморфний образ).

Отже, якщо H(R / Y) = 0, то min H(X) = H(Y) – H(R).    (18)

Це і є відомий «принцип необхідної різноманітності» Р.  Ешбі, який постулює таке:

Мінімальне значення різноманітності системи Х можна змен­шити тільки за рахунок збільшення різноманітності системи R.

Інакше його можна сформулювати так: тільки різноманітність у системі R може зменшити різноманітність, яка існує в Х, тільки різноманітність може знищити різноманітність.  

4. Альтернативні підходи до визначення кількості інформації

Статистична теорія інформації пов’язує поняття інформації зі зниженням невизначеності (ентропії) стану об’єкта. Підходи й математичний апарат для кількісного визначення інформації та ентропії, що їх розробили К.  Шенон та Н.  Вінер, виявилися корисними в технічних застосуваннях (теорії зв’язку) — оптимізації кодування, передавання, зберігання інформації тощо.

Їхні праці з теорії інформації сприяли розумінню того, що не існує абсолютної інформації про об’єкт, визначення інформації залежить від вибраної моделі об’єкта. Оскільки залежно від мети дослідження вибирають різні моделі з різним описом станів об’єкта, то й з’ясування інформації про об’єкт залежить від мети та завдань дослідника. Адже в одних і тих самих даних міститься різна кількість інформації для різних завдань управління.

Однак статистична теорія інформації не набула поширення для задач обробки інформації, призначеної для управління економічними об’єктами

Це пояснюється тим, що її підходи не враховують специфіки економічної інформації (зокрема, відкидаються змістовні взаємозв’язки, ігнорується зміст та корисність інформації для досягнення мети — цінність, доцільність).

Наприклад, кількість інформації на символ є лише усередненою мірою невизначеності появи цього символа. Тому загальна кількість інформації, що міститься в деякому повідомленні (І = –Spilogpi), ніяк не пов’язується зі змістовністю і корисністю цієї інформації для одержувача.

Інформативність повідомлень для одержувача залежить від його сфери інтересів, роду занять, мети дослідження тощо. Отже, необхідно враховувати різні аспекти оцінки кількості інформації: не лише за формально-структурними ознаками, а й за змістом та практичною цінністю для одержувача.

Однією з найбільш важливих властивостей інформації є її корисність. Але бути корисним може тільки те, що має сенс для даної системи. Реальні (зокрема, економічні) системи перебувають у процесі постійного перетворення, причому будь-яке елементар­не перетворення в системі є подією. Кожна подія супроводжується повідомленням, яке є інформаційним еквівалентом події. З огляду на сказане інформація — це повідомлення, яке має сенс для даної системи. Але значення будуть мати тільки ті повідомлення, які обмежують різноманітність поводження досліджуваної системи в напрямку її пристосування до середовища.

Наведемо деякі інші міркування та підходи до визначення кіль­кості інформації.

Семантичний підхід. Один із методів обчислення кількості семантичної інформації полягає в тому, щоб визначати її через так звану логічну імовірність, що являє собою ступінь підтвердження тієї чи іншої гіпотези. При цьому кількість семантичної інформації, що міститься в повідомленні, зростає зі зменшенням ступеня підтвердження гіпотези. Отже, якщо логічна ймовірність дорівнює одиниці, тобто якщо вся гіпотеза побудована на відомих даних та цілком підтверджується повідомленням, то таке

1 2 3 4 5 6 7 8

Схожі роботи

Реферати

Курсові

Дипломні