形式言語ー形式文法と言語処理

以下に詳細解説へのリンクを張ります。

http://home.a00.itscom.net/hatada/lp2012/chap02/formal-language.html

ウィキペディア

http://kurt.scitec.kobe-u.ac.jp/~kikyo/lec/06/automaton/


プログラミング言語が大体、文脈自由文法でできているというのは
興味深いです。

オートマトンー有限オートマトン

以下に詳細説明へのリンクを記述します。


http://www1.adachi.ne.jp/katz/essay/automata.html

ウィキペディア

http://d.hatena.ne.jp/m-hiyama/20100603/1275546996#c

一番上のリンクに、オートマトンとは「自動羊肉」だという説明が
ありますが、騙されないようにしてください（笑）

情報理論－符号化

以下に詳細な解説へのリンクを掲載いたします。


期待値の求め方

ハフマン符号化

ランレングス、ハフマン符号化


情報の適切な符号化の基本的で簡単な方法です。

コンピュータの世界では0と1の集まりで符号を割り当てますが、
ランダムに割り当てていたら、効率が悪くなってしまいますので、
今回のような符号化法があるわけです。

情報理論－情報量

以下が詳しい解説へのリンクです。

http://www.buturigaku.net/main03/Information/Information001.html

ウィキペディア

http://www.logos.t.u-tokyo.ac.jp/~tau/lecture/komaba_joho/gen2/slides/3-entropy.pdf


情報というものを量で表すという考え方を知ったときは
実に感動的でした！