情報理論の父と呼ばれるクロード・シャノンの業績は？ – GIGAZINE

熱気球に世界中のインターネットを提供するプロジェクトが行われたり、高速通信5Gの整備が進んだりと情報通信技術は日々進歩しています。そのような情報通信技術の基礎となる研究を行って情報理論の父と呼ばれたクロード・シャノン業績についてスタンフォード大学で情報学教授を務めてデビッドチェ氏が解説しています。

Claude Shannonの情報理論が未来を発明した方法| Quanta Magazine
https://www.quantamagazine.org/how-claude-shannons-information-theory-invented-the-future-20201222/

1916年にミシガン州で生まれたシャノンミシガン大学数学と電子工学の学士号を取得した後、マサチューセッツ工科大学でブール代数回路設計に適用した論文 “リレー、開閉回路の記号的分析」を発表した。複雑な回路を数学的理論に基づいて設計することを可能に限り、この研究は、現在も継続し、回路設計技術に関する研究の出発点となっています。

次のシャノンは、情報通信に関する研究に焦点を当てました。 情報通信は、人類にとって重要な技術で奉化や伝書鳩、電話、TVなど、さまざまな情報通信技術が開発されてきたが、これらの通信システムは、特定のソースと実際のものに依存しています。 シャノンは、様々な情報を通信するために使用することができる統合的な理論を見つける研究を行い、1948年に現在の通信技術の基礎理論である「通信の数学的理論“を発表しました。 この論文ではシャノンは、最初「ビット」という言葉を使用しています。

この理論ではシャノンは、情報を “0”、 “1”の2値だけで表現する方法を開発し、時間あたりの情報量をビットを使用して表現 “エントロピー（情報量）‘という考えを絞るました。 例えば、毎分100文字英語を送信するときに、アルファベットは26文字なので、毎分26の100乗の組み合わせになることがあります。 この情報量をビットを使用して表現すると、26の100乗≈2の470ワットよりも毎分100文字英語を送信する際の情報量は470ビットを示すことができます。 このように、さまざまな形式の情報をビットに変換して処理することができるようになりました。

当時の技術者は、文書、音声、映像などの情報ごとに効率の良い情報通信方式は違うと思いました。 しかし、シャノン提唱した情報理論に基づいてどのような形の情報もビットに変換して送受信効率的に通信することができることが明らかになりました。

チェ氏は、「シャノンこの研究を開始前から多くの情報技術の研究が進められてきたが、シャノンはそれを一つの理論にまとめました。研究者の作品は、一つ一つの種類を追加していくだけでなく、種類をカット美しい木を作成することでもある。」と述べています。