書架に乱雑に積みあがった本の整理をしていたら、1060年代米CBSが製作したSF・ファンタジー・ホラー番組『トワイライトゾーン』のアンソロジーが出てきた。

1960年代と言えば、核戦争の恐怖、人種差別、言論統制などがアメリカ社会を覆っていた時代である。私はまだ中学生だった。

懐かしくなって読み直してみると、驚いたことにまるで現在のAI時代を予見したかのようなエピソードがいくつもあるではないか。

自動化による大量失業、人間の価値の喪失、AIケアロボット、AIベビーシッター、AI疑似恋愛、巨大コンピュータが技術者に恋をして嫉妬から仕事を妨害するというコミカルな話まである。

しかし、本質的なテーマはAIへの過度な依存や人間の判断の放棄がもたらす危機だった。高度なテクノロジーを妄信し、リスクに無防備な人類が滅亡の淵に立たされる—まさに今、国際的議論の中心にある問題がそこにはあった。

トワイライトゾーンとは、現実と非現実の境界にある不可思議な領域を意味する。ひょっとすると私たちは今、AIを巡ってその”境界領域“に立たされているのではないか。

そう思うのは、二つの現実が同時に存在しているからだ。多くの人々にとってAIはまだ「検索や作文が便利になった程度」の存在である。一方、AI研究者の多くはAIが人類に甚大な被害を与えたり、破滅させたりする可能性を深刻に懸念している。その危惧は、人工知能研究・開発企業アンソロピックの元内部関係者が「AIはこの１０年以内に人類を終わらせる可能性がある」と警告したほどだ。

ただし、「AIが自我を持ち人類を攻撃する」というターミネーターが出てくるSF的シナリオは現実的ではない。AIが人間のように考えるというのは幻想だろう。なぜならAIは常識も感情も倫理観も持たず、意味を理解しない巨大が計算機だからだ。一言でいえば、ビッグデータを電光石火で検索し数学的”最適化“を行うマシーンなのだ。

つまり、われわれが恐れるべきはAIそのものではなく、人類が自ら作った複雑で恐ろしく速い計算機システムに「社会の重要な意思決定を代行させ、制御できなくなる」ことだと情報セキュリティ専門家中田孝一氏は著書『AI暴走は止められない』で警告している。同氏は、AIが制御不能になるとどのような事態が起こりうるかを、例としていくつか挙げている。

・金融市場の自動取引が連鎖暴走し、世界経済が崩壊する。
（2010年にアルゴリズム取引によるフラッシュ・クラッシュでダウが数分で1000ドル近く暴落した事件があった。）
・自立型兵器の誤認識による偶発的軍事衝突の拡大。
・電力・交通・医療などの重要インフラがAI依存のまま停止。
・誤情報生成が民主主義の意思決定を破壊する。

同氏はこう述べている。「AIにとって、核ミサイルの発射ボタンを押すことと、アマゾンでペーパークリップを注文することは、数学的には同じ”目的関数の達成”に過ぎない。行為の社会的意味や不可逆的な悲劇をAIは理解することができない」
しかし、AIを有益な範囲で管理する方法はないのか。残念ながら、すでにオープン化が進むAIの世界では、AIを”檻の中“に閉じ込めておくことは極めて難しいようだ。中小国やテロ組織、あるいは個人であっても、手元のデジタル機器を使って致命的なAI危機を構築できてしまう時代なのだ。

さらに国家間の競争意識と他国に対する深刻な不信感が国際的な協調を妨げ
ている。AIは世界150カ国で近くですでに利用されているが、その基盤となるインフラは米国と中国の二大国が支配している。国内に十分なAIインフラを持たない国々は、事実上、米国か中国の技術のどちらかを選ぶしなない状況だ。

こうした支配の集中に危機感を募らせている各国では、自国で技術インフラの主要部分を保有・管理しようとする動きが始まっている。経済史家ニーアル・ファーガソンは、核分裂理論の確立からわずか十数年でヒロシマ・ナガサキの惨禍が現実となったことを踏まえ、「AIが破壊的なものより生産的な目的に使われると想定するのはおおいなる誤算だ」と警鐘を鳴らす。

一方、私が敬服する地政学重鎮ヘンリー・キッシンジャー博士は遺書『GENESIS（創世記）』の中でこう警告している。「AIが我々にもたらす最大の危険は、我々がそれをすでに理解してしまったと早合点し、あるいは完全に分かってしまったと宣言することである」と指摘している。この言葉は、AIを巡る現在の議論において、最も重いい意味を持つのではないか。

さらに、キッシンジャー翁は、AI時代を人類氏の”最後の舞台“とみなすの
ではなく、新たな出発点と捉えるべきだともと説いた。未だAIトワイライトゾーンの狭間にいる私たちは、近い将来にその答える知ることになるだろう。