情報理論

年度	2004
科目名	情報理論
教員名	大槻　善樹
授業概要	”Information Technology”を省略したITというキーワードがマスコミでも普通に用いられるようになり、情報技術の重要性が広く認識され出した。 文教大学の学部には情報学部があるが、学部にこだわらずとも今や現代の社会は情報化社会であると言って過言ではない。 ここで、当然の如くに情報化社会という言葉を用いたが、では情報とはどんなもののことを指すのか？ 例えば就職面接のときに「ホウ、あなたは情報学部ですか？ それじゃあ情報とは何ですか？」と質問されたら、あなたはどう答えるのだろうか？ また、情報の量が多いか少ないかを測るにはどうすれば良いのだろうか？ 本講義では、そのような情報の理論的な取扱いを学ぶことが目的である。 現代の情報理論は情報の伝送、つまり広義の「通信」の本質に関する基礎的な学問であり、C.E.Shannon の論文 ”A Mathematical Theory of Communication”がそのもとになっている。これは高度の数学的理論であり、数学的な厳密さを要求すれば、非常に難しい理論である。 しかし、本講義は数学の勉強ではない。 情報の理論的な取扱いは、情報に携わる人にとっての基礎的な学問であるので、数学的厳密さを犠牲にしても、出来るだけ身近な例を通して、その意味する所をわかりやすく理解できるように学習を進めたい。 (ただし、平均の求め方や確率という言葉を知らないレベルの学生さんは受講を避けて欲しい。) 毎回の授業は、下記の初歩的項目に関するトピックを理解できるように進める予定である。 時間の制約もあり、一般の工科大学における情報理論の講義内容のレベルには達しないのは承知しているが、何もわからないよりは良いだろうし、興味をもってもらえることが重要と考えている。
授業計画	準備段階として「情報」を考えてみる 情報量の定義と計算方法 エントロピーの定義と計算方法 言語における情報量の算出 冗長度の定義と計算、および、その意義 符号化と情報伝達速度 通信路の情報量(シャノンの第1、第2基本定理) 暗号に関する情報分析
評価方法	評価は、学期末のテストと、随時に行う授業中の小テストや課題の提出状況に基づく普段の授業態度点、および、出席点の3項目を総合評価して行う。
教科書
参考書
メッセージ	対数や確率などの数学的用語でくじけない程度の気持ちは必要である。参考書は専門書籍を扱う書店や図書館に行けば情報理論の本があるが、通常は数式が多く難解と思われるので、教科書としては指定しない。また、本講義では高度な数学的証明などは省略する。 受講者は、ざっくばらんなコミュニケーションができる人、すなわち、普通の会話ができる人だけが受講して欲しい。楽して単位数だけを取ろうという人は時間の無駄になる可能性があるので履修登録をしない方が良いと思う。