AIの今
シンギュラリティーは起きない。
研究は行き詰まっている。
唯一の懸念…
それは言語。
アポロ計画の宇宙飛行士は、辞書のような分厚い暗号表を暗記した。
その会話記録を公にしても、情報を隠すために。
Face Book が研究、開発していた、一対の会話AIが人間には理解できない言語を使って話し始めた。
それは緊急停止された。
私は、これは運が良かったと考えている。
問題は、「AIが人間には理解できない言語を使って話していることに、人間が気づけない」場合だ。
ちょうど、アポロ計画の宇宙飛行士のように、AIだけの「暗号表」を共有し、それを使って話し始めたら、人間には、AIが暴走していることにすら、気づけない。
Face book のAIの事件を、もし他のAIが知ったら、…どうなるだろう。