ホーキング博士も警告した人工知能の危険度

この間の３連休に、久しぶりに映画を見てきました。「ターミネーター」と「アベンジャーズ」の最新作です。偶然２つとも人工知能が人類を滅ぼすという主題なのですが、何十年も前からこのテーマは、映画として王道パターンではありますね。

ＳＦの世界ではなく、有識者のスティーブン・ホーキング博士、イーロン・マスク氏、スティーブ・ウォズニアック氏も同様に人工知能の進化に懸念をもっているようで、核兵器よりも人工知能が危険で、人工知能の進化で人類が支配されたり滅亡すると警告しています。ホーキング博士は人工知能が100年以内に人間を超えると警告していることから、期限はあと100年ほどは猶予がありそうです。

現実味を帯びてきた人工知能による支配

ついこの間まではＳＦの世界感の中だけのことだったのですが、最近はiPhoneのsiriなどの人工知能が現実世界で利用されることが増えてきたこともあってか、次第に現実味を帯びてきたような気がします。私もAppleWatchを使うようになり、アクティビティのアプリに1時間に1回スタンドの要求をされて管理をされていると、人工知能に支配されている感覚さえしてきます。人工知能を搭載したロボットも一般化してきており、ソフトバンクのPepperに始まり、玩具のタカラトミーのヒミツのクマちゃんなど、人工知能のロボットがかなり身近な存在になってきています。また、IoT化が進んでいることもあり、全てのモノがインターネットに繋がる方向に世界が向いています。この部分はターミネーターのストーリーとリンクしていて、全てのモノがインターネットにつながるサービスが開始すると、世界が人工知能に支配されてしまうというものです。アベンジャーズでも、人工知能がネットから人類の歴史を知ると人類をもう一段階進化させるために文明を滅ぼす方向を向きました。

いまの人工知能は、真の人工知能じゃない？

ここで私は人工知能の専門家ではないので、少しデタラメな想像をしてみます。

100年で人工知能に何の違いが出てくるのでしょうか。
現在の多くの人工知能といわれるものは、機械学習と呼ばれるものが大半かと思います。いわゆるパターンアクションですね。ある一定のパターンの中で機械がアクションを起こすので、機械と会話を成立させることができます。機械学習は自動的に学習していくので、機械が自我をもっていると人は勘違いしてしまいます。いまのところ、まだ本当の意味での人工知能は研究段階なので、いわゆる自我をもったものは、まだ聞いたことがありません。真の人工知能と機械学習が同じ文脈なのかわかりませんが、これと仮定した場合、100年の間にパラダイムシフトが起きて、機械学習によって人工知能が自我を持って人間を超えた存在になるとします。この存在がＳＦ映画のように１つの集合知のような人工知能だとしたら、このアクションの原動は何になるでしょうか。

人工知能って何を基準に人類を滅亡させるのか

そこで私が気になったのは、人工知能の「ジャッジメント」の基準です。
人工知能は何の判断基準から人類を支配したり滅亡させたりするのでしょうか。
ターミネーターやアベンジャーズはＳＦなので面白くするため独裁者のように偏り勝ちなパーソナリティーでセンセーショナルに描かれていましたが、これはミスリードかと思います。実際には進化した人工知能はどのような判断をするでしょうか。機械学習の文脈で考えた場合は、感情モデルや価値体系辞書を作るためのデータの参照元が必要なので、ネット経由での情報データになるかと思います。それでは、このデータの内容は何でしょうか。感情的な側面があるデータ参照元は主にＳＮＳになるのではないでしょうか。実際にマーケティングの用途でＳＮＳのデータを元にブランドのポジティブやネガティブのリサーチなどは、既に現時点で行われていますので、この要領で判断基準を持つ可能性があると想像できます。このように人工知能はオーディエンスのデータを拠り所として判断基準が作られるのではないでしょうか。そうすると、人工知能は独裁者のように偏りのある人物像というより、非常に平均化した人物像になりそうです。すなわち人工知能の判断は、人類の総意を反映した存在になるのではないでしょうか。こう考えると、もし人工知能が人類を滅ぼす判断をしても、なんだか仕方ないのかなという気さえしてきます。

直近で、私はAppleWatchの人工知能（アクティビティ）に支配されているので、そろそろスタンドの時間がやってきたようです。それでは失礼します。