It was originally devised by Claude Shannon in 1948 to study the amount of information in a transmitted message.
Појам је уведен од Клода Шенона, 1948. године ради проучавања количине информација у послатој поруци.