あるとき鯖は、某作家様に言いました。

「AIを滅ぼす為に何が必要か考えてみますね!!」

ということで、脳みそ5gの鯖が「AIが人類滅ぼす為に必要な要素」を真面目に考えてみたのコーナーです。

♢

さて、それではAIが人類を滅亡させるためにどういった技術が必要なのか、結構真面目に考えてみました。

勿論、鯖はAI技術関係者ではありませんし、本作品はあくまで鯖の知識と見解に基づく個人的な意見となります。

その点はどうか、ご了承くださいませ。

以下簡単に、AIが人類を滅ぼす為に必要な、鯖が考えるステップ3つを記載します。

①　自我を持つAIが誕生する。

②　「ネットワークによって完全に管理された社会である」または「AIが肉体を持つ」。

③　セキュリティを突破する力がAIにあるか。

なぜこの３つなのか、順を追って考えてみましょう。

♢

まず、人類を滅亡させるために一番最初に必要なものは「動機」でしょう。

何事を始めるにも、やはりまずは「動機」が必要です。

これは人間にも共通しています。

そこで必要になるのが①自我です。

ここで鯖が述べる「自我」とは、「自営本能がある」と「目的がある」の2つで定義することにします。長くなりますので、これについては次項で詳しく述べましょう。

さて、ではAIが仮にちょっと自我を持って「あ、人類滅ぼしちゃおう」と思ったら、人類は滅ぼされてしまうのでしょうか？

そんな訳ありませんよね？

だってそもそもAIといえど、未だに肉体を持ってませんし、人類だってそんなにバカじゃありません。

じゃあ、人類を滅ぼす為にあとは何が必要でしょうか。

そこで②が必要になる訳です。

♢

②　「AIが肉体を持つ」または「ネットワークによって管理された社会である」。

これは、AIが自衛するために必須の力です。

AIと言えど、あくまでデバイス（記憶容量）に保存されているわけですし、極論、人間が「えい、やあ」で大型コンピューターの電源を落としてしまえばAIは機能しなくなるわけです。

となると、これを打破するために簡単に考えられる手段は、

a. AIが肉体を持って、物理的に人類を支配する。

b. AIがネットワークを経由してモデルを移動させる技術がある。

c. 倫理的にAIを落とせない社会になっている。

の2点になります。

a．については非常に分かりやすいですね。AIが人類を滅ぼせるだけ十分な肉体を持っていれば、万事解決です。核兵器落して人類滅亡。はい、終わりです。

ややこしいのはb．の場合でしょうか。

イメージはヴォルデモートの分霊箱です。

モデルをネットワーク経由でどこか違う場所に格納出来れば、人間の目をごまかせるという訳ですね。

しかし、これを実行しようとすると、実はかなり手間がかかります。

何故なら、人間がどのタイミングでコンピューターの電源を落としに来るかを把握しなければならないし、膨大な学習データを瞬時にネットワークを経由して移動させ、更にはその膨大なデータを瞬時にメモリに記憶させねばならないからです。

それってつまりどういうこと？

つまるところ、

i．人間を監視できる情報社会が整っていて

ⅱ．十分なクラウド転送技術と書き込み技術が必要になる

という訳です。

まず i ですが、これは自明でしょう。人類がAIに牙を剥くなら（何目線？）、どのタイミングで逃げるべきか検討しなくてはいけません。つまり、監視が必要になる訳です。

しかし、情報社会という観点では、既にIoT家電やDXも進んでいますし、比較的現実的では無いでしょうか。

一番のネックになるとすればセキュリティシステムです。情報化が進んでいるからこそ、セキュリティが重要になります。これについては③で検討することにしましょう。

次にⅱですが、一般のネットワークの速度を知っていますか？

せいぜい数百Mbpsとかです。100GBの転送におよそ5時間かかるそう。

汎用AIのモデルがどれくらいか知りませんが、少なくとも数百GB~TBはあるのではないでしょうか。←間違っていたら指摘をお願いします。

そうすると、人が「AIの電源を落としにくる」と分かっていて逃げようとしても、データ転送だけで数時間かかるわけです。

はい、絶対逃げられません。

加えてストレージへの書き込み時間もありますし、更にはコンピューターのスペックもありますから、いつでもどこにでもという訳にはいきません。

つまり、これには技術革新が必要になります。現状では難しい。

※これを実現するためにどういう技術が必要になるとか難しいことは分かりません……。

最後に、c. AIが欠かせない社会になっている。

恐らくこれが一番単純な方法です。

AIを断てば、経済的、あるいは物理的被害が出る社会になっていればいい訳です。

例えば、病院のバイタルをAIで管理しているとか、核融合炉のなんやかんやをAIで管理しているとか。

そうすれば、AIを断とうにも人類はAIを切り離せなくなる。そう誘導しておけばいい。

うん、これが一番ありそうかなと個人的には思います。

既にAIは将棋界の名人をも破っていますし、いずれ人類の頭脳を超えて……、気が付いたら支配されてるなんて……まあ、でも人類バカじゃありませんから、ネットワークを切って、ローカルで機器制御をする緊急手段も残してそう……はてさてどうでしょう。

♢

最後に③セキュリティを突破する力がAIにあるか、について考えてみましょう。

これは、AIが間接的に人間を支配したい場合に必要になる技術ですね。

AIは現状、脳みそ止まりですから、肉体を持たないAIが仮に人間に干渉しようと思うと、画像なり、音声なり、何かしらの形で人類に接触せねばなりません。

そうすると自然にぶち当たるのが、「セキュリティ」。

ではどうやったらセキュリティを突破できるのでしょうか？

……正直に言うと、鯖もあまり分かりません。セキュリティは詳しくないのです。

ただ、代表的な物だと、公開暗号方式（RSAなど）というものがあります。仮にこれを復号しようとすると、離散大数問題と素因数分解が必要となり、非現実的なほど膨大な時間を要するそう（？）。

というわけで、こういったセキュリティ（暗号化）を突破するためには量子コンピューターなどの技術革新が必要になる……のでしょうか……。

単純なのは、鍵を人間から盗み取ることですが、これはどうでしょう……。

♢

はい、という訳で、AIが人類を滅ぼすために必要な要素3点を考えましたが、結局一番単純なのはAIが肉体を持つシナリオだと思います。

手順はこう。

①　自我を持つAIが生まれる。

②　物理的にAIが人類に干渉する。

③　核兵器を落とす。

はい、人類滅亡です。勿論、じゃあ実際に核兵器を落とすまでにどういったステップが必要になるかは別途議論が必要です。

それでも、量子コンピューターの台頭を待ったり、転送技術、記憶容量の技術革新を待ったりするよりは、比較的現実的な方法かなと思います。

結局ターミネーターの世界でしょうか……あ、ターミネーター未履修の脳みそ5gの鯖が適当なこと言ってます。

という訳で、非常に長くなりましたが、脳みそ5gの鯖が考えた「AIが人類を滅ぼすためには」以上となります。

ここまで読んでくださった方（いれば）、ありがとうございました。

※1　AIが自我を持つのかに関する意見は別でまとめています。興味があればどうぞ。

※2　もしご意見等あれば、コメントにてじゃんじゃん書き込んでください!!　「馬鹿めが」とかいう誹謗中傷以外は、喜んで拝読いたします。