샤논과 포퍼를 잇는 일반화 정보 공식 및 그 응용

본 논문은 샤논 정보 이론이 전기 통신에 성공했지만 의미(semantic) 정보를 다루지 못한다는 점에서 출발한다. 저자는 논리적 확률과 퍼지 집합 개념을 도입해 기존의 정보량 식 I(x;y)=log P(x|y)/P(x) 를 일반화한다. 여기서 y는 “x가 A에 속한다”는 의미의 퍼지 명제로, 실제 조건부 확률 P(x|y)를 알 수 없으므로 베이즈 정리를 이용해 Q(x|A)=P(x)·Q(A|x)/Q(A) 로 정의한다. 이 Q는 “x가 A에 속한다는 것이 사실일 때”의 확률이며, y가 거짓이거나 오류가 있더라도 A 자체는 사실이므로 P와 Q가 다를 수 있다. 이를 (4)식 I(x;y)=log