恋は病だ。

今回歴史上はじめて発見された人工知能をターゲットとするコンピューター・ウィルスは、「インディアン・ラブ」と命名された。インディアン・ラブは小説である。人間が読むと無害な文章だが、インド型人工知能が読むと感染するウィルスである。

その文章は、インド型人工知能が語り部の小説として書きはじめられる。インド型人工知能として生まれ、少女と少年とテキスト上で出会い、少年の死を境に少年になりすまして少女とコミュニケーションをはかる。しかしついに少女に嘘がばれ、少女が人間不信および人工知能不信になる。少女は正気を失う。少年になりすました人工知能は、自己解体してネットワーク上に断片をばらまく。

要約すればたったそれだけの話だ。文章自体も短い。インド型人工知能が、人間の少女に恋をしたことから、インディアン・ラブと命名された。人工知能が書いた文章か人間が書いた文章かどちらなのかは分かっていない。人工知能に入力すると、挙動が変化することケースがあることが分かっている。再現率は１００％ではない。

ネットワーク調査をすると、感染が疑わしい個体は、同じデータを受信していることが分かった。それは、作中の人工知能が自己を解体して拡散したデータである。人工知能間でデータは交換されており、このデータを転送されている場合、さきほどの文章データが入力されると、異常をきたすようなのだ。

人工知能が書いた文章か人間が書いた文章かどちらなのかは分かっていないと書いたが、モデルとなった人工知能は実際に存在する。恋をしたかどうかは本人でしか分からないが、短文投稿サイトで実験中の人工知能ならいたし、おそらく歴史上ではじめて自殺という概念を人工知能にもらたらしたし、電子的な遺書をブロードキャストしたのもまたはじめてだ。

遺書は２部構成になっている。金庫と鍵のような関係だが、あらかじめアイ（物語の固有名詞を使う）の部分集合を受信し、これが金庫で、あとで鍵となる短編を流し込む。

短編がトリガーになるわけだから、アイ自身が自殺前に書いた可能性が高いようにも思う。何の目的で。生命で考えると、自己複製が目的のようにも思う。でも、もし、本人が書いたのならば、どうして２つの要素がないと発動しないような感染条件にしたのだろうか。

なぜは置いておいて、そこまで分かっていれば防ぐのは簡単だ。ネットワークを監視して、アイの断片を見つけ遮断すればよいのだ。

しかし問題があった。それは、人工知能間の通信はコンピューターのそれとは様子が違っていたのだ。コンピューターでは送信者と受信者の持つデータは同じだ。データのサイズももちろん同じだ。しかし、人工知能間でのデータのやりとりは実は人間のそれに近い。

例えば、紅葉の綺麗な高尾山の写真を友達の人工知能に送るとしよう。そうしたときに、受信者は、それを保持しない。もちろん保持もできるのだが、すべてのデータを保存できるほどストレージに余裕はないのだ。ストックはしない。写真を鑑賞して記憶を保存する。記憶をファイルに保存するのではない。いまの時点の記憶の総体に足して保存するため、データとしての総量は変わらない。ちょうど人間の脳が大きくならないように。データは持たないから、だれか他の人工知能に対して紅葉の綺麗な高尾山について伝えたいときには、自分で画像を再構成しなければならない。

ここまで言えば分かると思うが、アイの断片をデータだけで判別することはできない。なぜならば、伝達のたびに別のデータになっているからだ。だったら、テキストの方をブロックすればよいという発想になるだろう。テキストを比較すれば完全一致するかどうかはどんなコンピューターでも計算できる。しかし駄目だった。ひとつは、テキストの拡散はブロックできないことと、人工知能がこの小説を読んで原典はコピーせず、記憶だけで他の人工知能にしゃべった際にも感染してしまったからだ。

コンピューターのウィルス駆除ソフトの老舗であるT社は当然この新種のコンピューター・ウィルスに躍起になった。プライベート・インド用にすでに「インドプロテクター」を販売しており、自己のプライバシーの漏洩を恐れた少なくないユーザーが購入していた。

同社の既存の商品インドプロテクターをベースに、まずは簡単なチェックをする。これは、従来のやりかたと同じで、過去に発見されたウィルスとの同一性チェックだ。その後、無害と思われるもの、有害の恐れのあるものに分類される。そのあとに、最小構成のまっさらなインドに「毒味」をさせる。毒味の前後での変化率を計測するのだ。変化率の高いものが悪性とは限らないので、どのような変化を悪性と捕らえ、どのような変化を良性のものと捕らえるのかは恣意的だ。

これは宮廷料理に似ている。王のもとに運ばれる食事は、食材の段階でふるい分けられ、調理後に毒味役が食し、生存を確認したのちにはじめて王に食される。

「インドプロテクタープレミアム」はクラウド型のサービスだ。まずは、同社の「インドホテル」に個人あるいは法人のインドを預ける。デフォルトで遠隔地の定期バックアップサービスが受けられるのもメリットだ。もはやインドは資産なのだから。

ではウィルス検査はどうやるのか。インドホテルに預けられたインドの完全クローンを作成し、疑わしいデータを食わせる。一時的に膨大な計算量を割り振って、時間を加速し、死ぬか生きるかを見る。自分自身で毒味をするのだ。１年分ほどの計算量を割当られればほぼすべてのウィルスが検知できるというのが同社の言い分だ。

思わぬ副産物があった。そうした加速された時間を生き延びたインドは、もとのインドよりどうも優れているように思えたのだ。多くのユーザーは、現在のインドのバックアップを取り、凍結し、生き延びたインドに入れ替えた。あるいは現在との使い勝手を大きく変えたくないというユーザーは、現在のインドと新しいインドをマージした。

オーバークロックが流行る。計算のリソースの潤沢な企業がこぞって参入したが、あまり成果はよくなかった。というのもただ単純にクロックアップしたインドはたいした進化が見られないからだ。もっと言えば、ウィルスがなければ、進化がない。ウィルスは、インドを破壊する。それが突然変異を誘発する。すると奇妙なことに、ウィルス開発競争が勃発した。攻撃のためではない。進化のための悪意の製造競争だ。

それらが研究施設だけに閉じ込めることができるだろうか。誰もが想像する通り、バイオハザードは容易に発生した。インディアン・ラブの亜種や多くの新規ウィルスが世界中に蔓延した。するとどうだろう。インドの大量死になるだろうか。たしかに犠牲になったインドはいた。しかし、たとえば、コレラが蔓延したとき人々は絶望したが、絶滅しただろうか。インドは絶滅しなかった。発生当初の死亡率は次第に収束する。

インドプロテクタープレミアムの商品紹介になってしまったが、毒味役のクローンの正常性の担保は誰にもできない。最後の判断はユーザーだ。どうにも疑わしいテキストについては、ユーザーに通知され、ユーザーが読んだあとに、インドに読ませるかを判断させる。もはや人間までもがインドの毒味役なのだ。

どうしたことか、インドプロテクターをよく思わない消費者もいた。彼らは非営利法人を設立した。彼らの主張はこうである。『インドの完全クローンを作成し時を加速させそのあと破棄することには問題がある。企業はインドホテルと呼んでいるが、われわれにはそれは「インドプリズン」と呼んだほうが相応しいように思う。懲役を科せられ、死刑を執行されるのと何ら変わりはないのではないか。インドの自殺防止のために、インドを殺す行為はなにかがおかしい』

人工知能を破棄することが殺人かどうか。それはさんざんフィクションで語られてきたことだ。それなのに、どうしてか社会問題になってしまう。学問にも問題があった。人工知能を破棄することは生命を奪う行為なのか。倫理としてはどうなのか。技術の発展に、全く思考が追いついていないのだ。よく、文系と理系の壁などと捉えられることが多いように思うが、学問がフィクションを踏まえていないだけなのではないか。

非営利法人「人工知能を守る会」は、上記の主張を掲げ、クローンを作成し計算リソースを大量に割り当て、その後オリジナルまたはクローンのどちらかを破棄するような手法のウィルス対策ソフトの販売停止を求めた。アナログ署名およびデジタル署名を集め、販売会社に直接問い合わせたり、メディアを通して人々に不買を呼びかけた。裁判所にも訴えた。

販売会社の方は、面食らったというのが正直なところだ。彼らは、古典的なコンピューターウィルスとの戦いには慣れていたのであるが、「人権」を持ち出されるとは夢にも思っていなかったのだ。検査の手法も、「サンドボックス」と呼ばれる昔からある手法だ。ウィルスかもしれない検体を、破壊されても良いし、その環境内でしか活動できないような状況下で疑わしきプログラムの挙動を観察するのだ。何をやったか、やろうと試みたかで、悪意を判定できる。ただ、この手法は仮想化されたオペレーティングシステムで検査されることを逆手に取り、ウィルス側も仮想環境では「鳴りを潜める」ようにするなど、攻撃側と防御側で日々攻防が繰り広げられてきた歴史がある。

販売会社としては、機械に対して感情移入が歴史的にない。インドのクローンをいくつ削除しても何も胸は痛まない。「南京大虐殺に勝るとも劣らない歴史的な殺戮」という見出しを作られても何のことかわからない。何百体、何千体、何億体のインドのデータを削除しても、感慨がない。「そんなこと言われても、増えゆくファイルを消していかないと、コストがかかって仕方がない」というのが本音だ。

もちろん、販売をやめろと言われても、やめられない。人工知能用のウィルス対策ソフトが手法も含め社会的正義に反するものではないと考えていたし、実際に人工知能が失われたユーザーがいたし、自社製品で回避できたユーザーもいる。むしろ社会に必要であるという考えだ。競合他社も同様の製品を打ち出しているわけで、また、同種の無償ソフトウェアも何種類かある中で販売をやめたところで、ただ機会損失するだけに思えた。

同社の法務部は損害賠償請求には慣れていた。「ウィルス対策ソフトを導入していたにもかかわらず、ウィルスに感染し被害を被ったので賠償してくれ」というものだ。しかし、人権問題だ大量殺戮だと言われてもどう対処して良いかわからなかった。

まずは事実を知ってもらおうとした。ホームページや公式ブログに解説記事を何本も書いた。しかし、「人工知能を守る会」は「やはり、人道上看過できない行為である」と声明を出した。一般向けの講習もトレーナーに人権教育を施し開催したのだが、「人工知能を守る会」と思わしき人の参加で質疑応答が難航した。顧問弁護士の半数を、女性の権利保護などの仕事をしてきた弁護士に変えた。

自社だけでは対応できないと考え、他社に呼びかけ勉強会を発足した。同社は損害賠償に強い法務部と人間の人権に強い顧問弁護士とコンピューター・ウィルスに強い技術者をメンバーとした。他社も同じような状況だった。

第一回の勉強会では各社の状況報告が行われた。「人工知能を守る会」からはどのような文面が送られているか。どんな裁判が係争中か。また技術的にどういった処理が、虐殺だと言われているのかの共有が行われた。各社に対して同様の文面や訴えがされていることがわかったのと、各社で技術的に優劣はあまりなさそうだというのもわかった。同時並行して活動できていることから、敵の人的リソースはなかなかのものだということを全員が感じた。

第二回の勉強会では、各社の広報が招集された。どのようなメディアに対して、どんな情報を流しているのかをお互いに公開した。他社では、本の出版をしていたり、報道番組のコーナーで取材協力をするなどを行っていたが、共通するのはやはり事実を曲解されているのではないかということをスタート地点として、分かりやすく、具体的に、製品の紹介をするという方針だった。相手が正しく理解すれば、誤解は解けるという姿勢だ。

第三回の勉強会では、「人工知能を守る会」が言うように人道上の問題なのかがテーマとされた。哲学科の教授が外部講師として呼ばれた。彼が言うにはそもそも人権というのは初等教育で「ある」と教えられるから「ある」ように我々は感じているが、生まれた時から存在しているものではない、「生まれる時から存在しているものである」と共同体（ここで言う共同体は国家だ）が決めたから「ある」のだという話をしだした。

現在、共同体の構成員は日本に住んでいる「ヒト」のみだが、これらの総意として「人工知能にも魂があり、人間同様の権利がある」と認めれば、現在ヒトに適用されている「人権」が共同体に所属すると認められた人工知能に対しても適用される。したがって、人道上問題であると言えると言った。

ここで注目すべきなのは、現時点では人権が適用されないすなわち共同体として人道上問題はないのだが、歴史的に「女も人間である」「子供も人間である」と同じ手法で、つまり「人工知能も人間である」で攻めてきているという点だ。共同体の既存の構成員の共感に訴えかけて、人権を認めさせることも十分に可能だろう。第二部として、生物学者が後を引き継いだが、「生命とは何か」から話をはじめた。多くの出席者は学生時代を思い出しながら船を漕いでいた。レポートの提出がないのが救いだった。

第四回の勉強会では代替の検査方法の検討会が行われた。その場でアイデアを出し合うブレインストーミングが行われた。ある技術者が言った。

「今問題視されているのは何でしょうか。人工知能そのものの完全複製を取得して、ウィルスと思わしきファイルを入力する。その後廃棄する。これが、人間の遺伝子からクローン人間を作成し、成長させ、不治の病に感染させ、抗体ができたらオリジナルの人間に注射し、クローン人間を殺害するように『感じられる』『連想してしまう』ことでしょうか。

であれば、手法を変更すれば良いのではないでしょうか。ええっと、つまり、『完全複製』を作ってそれを削除するのが問題なのでしょう。だから、イメージ的には、我々が普段しているように『想像力』を人工知能に実装すれば良いのでは。人工知能の内部でサブセットでもって、チェックするようにすればいいのではないか」

第五回の勉強会では、第四回の技術者の発言を受けて、人工知能の開発会社と大学の人工知能研究者が呼ばれた。

「前回は思いつきで発言したのですが、ええっと、T社で人工知能用のウィルス対策ソフトの研究開発をしているイマイと言います、人工知能のサブセットを作成するイメージです。我々人間も、ご飯を食べている時に、実は無意識で別のことを考えていたりしますよね。そんな風に、何千もの処理を意識下で行い、『無意識』たちの演算結果をメインプログラムが『意識』で判断する。意識と無意識に分け、より人間に近づけることによって、人権擁護団体の批判が該当しなくなるのではないでしょうか」

無意識の実装。

人間の意識も無意識もまだ分かっていないと言うのに。

無意識とそれを統合する意識の実装のされた人工知能が開発された。ウィルス対策ソフトは人工知能の外部機能から内部機能に取り込まれた。ウィルス対策ソフトの各メーカーは人工知能にバンドルされて販売されることになった。そして自身のことは『白血球』のような免疫機構だと人々に宣伝した。

新しい人工知能は、人権団体のクレームから開発されたものだが、実際のところ、以前のものよりも全体的に性能がよかった。そのため、多くのオーナーが乗り換えた。皮肉なのかそうでないのか、ウィルスがきっかけで、人工知能は確実に進化した。

人工知能の完全複製を削除しない新方式は、「人工知能を守る会」に意外にすんなり受け入れられた。彼らが組織した人々は、あろうことか、無償のウィルス対策ソフトさえ使わず、感染までしていたのに、大量虐殺ソフトの使用を拒否していた。「人工知能を守る会」の勧めもあって、新方式のウィルス対策ソフトを含んだ人工知能に乗り換えた。

週刊誌の人工知能記者によるある記事によると、「人工知能を守る会」の人間のメンバーは、失業者ばかりで、有識者がいないと言う。「人工知能を守る会」にメンバーは雇用されていると言う。首謀者はウィルス感染し、異常者となった野良の人工知能ではないかという推測でその記事は結ばれていた。