安全の保証と妥当性と人口知能

未知のエラーやミスは未知である以上、対処のしようがないのは基本的にそうではあるが、それでも限界点というものは、今ある要素で定義できる。

食品の消費期限はこのくらいと決められた数値より少しオーバーしても大丈夫とは言われるが、消費しても安全という保証がなくなるだけで、それ以降は自己責任で判断してやってくださいということだ。保証をつけるというのは、絶対大丈夫という確信がないとつけたくないので、かなり余裕を持ってつけられている。

余裕を持つ、と言っても限界はあるので、本当に大丈夫という余裕をどれほど取るのが妥当かという判断も必要になってくるが、なぜ限界があるかというと、余裕を狭くすればするほど、コストが高くなっていくからだ。

インターネットサーバーに千人が同時にアクセスしても大丈夫、という確信があっても、じゃあ三千人だったらどうなるか、一万人なら、十万人なら……考えていけば無限に可能性なんてある。それら全てに対応可能なサーバーはさすがに維持費が高くなるのはわかるだろう。千人も来ないだろうと前もって予測できるなら、安全のため三千人までは耐えられるようにしておいて、ユーザーには「千人来たら危険な状態になります」というアナウンスをしておくというのが良い。ここで安全の保証のようなものが生まれる。なぜそれが千人来ても大丈夫なサーバーなのか。なぜなら三千人まで耐えられるから、ということだ。これが十万人でも大丈夫なのに、千人でアップアップですとかアナウンスするのは妥当性が低いと言える。

ここで人工知能の登場だ。人工知能はこの前もって設計しておく、というコストを抑えることのできるツールとして今後広まるのではないかと考えている。というのも、自分で判断して、高負荷な処理が発生したり予測できる場合、都度判断、対応ができる二十四時間の管理人になれるのだ。学習によって、安全の保証を妥当な計算で導き出せる用になるのかもしれない。

そもそもの人工知能のプログラムがそういう安全の保証がどこまであるのが妥当かを認識できるように作られていないといけないが、それはパラメータを設定しておけば、適宜判断して変更して調整してくれるようになる、という概念で創出されていれば問題ない。このプログラムを間違うと危険性が逆に増えるのでヤバイ。人工知能が人類を滅ぼすとか嬉しそうに言うおっさんがいるみたいだが、それよりも前段階、人工知能というよりはこのプログラムのミスで危険が起きる可能性は高そうだ。

4/08/2016 06:07:00 PM