第3章 AI INFLUENCE

第6項 責任

1 鉄の時代の責任論

我々は、我々自身のミスの多さ、性状・性格の凶暴さ、判断の煩雑さを痛切に自覚し、鉄の塊の移動・運動の制御を人工知能システムに委ねる。個々の自覚は社会的合意の形成となり、社会的合意の形成を見届けていよいよ大胆に商品化は進む。皆がより安価に、快適に安全に自動車によって移動することが可能になる。

手にはハンドルを持ち、足下にはアクセルがある。しかし、道から外れるハンドリングは無効(本人は修正されていると感じるかもしれない)となるし、法定制限速度を超過するアクセルも効かない。運転はディズニーランドのゴーカートに乗るのとだいたい同じ様になる(延(ひ)いては、人工知能システムによらない運転は、つまりは自分で判断すること自体が社会的に許容されなくなり、遂には禁止されるかもしれない)。

先の例で言えば、人工知能の極めて正確な運転者(主)の安全の最適化に仔猫の生殺は端的に懸(か)からしめられるし、決定はあなたのその場で行う判断とは違う次元で行われる。人工知能は価値判断をしない。

正しく認識し、把握し、計算し、つまりは既定のプログラムをプログラム通りに精緻に実行するだけだ。難解な局面における行動基準は、予め定められている。

要するに、その場には誰もいないわけである(アガサ・クリスティの小説のタイトルを借りるなら『そして誰もいなくなった』)。

故に、誰もあなたを責めない。あなたもまた、詫びようもない。例を変えて、人身事故が起きたとしても、あなたの判断は、現場検証に於いても法廷に於いても遺族との面会にあっても問題とされない。問題とされるのは、正しく安全制御システムを装備し、かつきちんとそれを作動させていたか、という点のみだ。

これが、鉄の時代を経た人工知能の時代の我々の責任だ。アルゴリズムの便利さに甘え、効率性に追い立てられ、我々は自らの倫理観を表し、吟味(ぎんみ)に晒され吟味し、鍛えることを忘れていく。

自らは無害化され、他者は消え、処理になる。客観的統計の檻。檻は精度を高め、強度を増し、より快適に便利にそして安全に、日々、縦横無尽に張り巡らされていく。

物事を自分の責任で判断するという行為は、気付けばもう、自明の自由ではなくなっている。厄介な判断は計算に委ね、無害化された我々の責任とは、当て嵌めの正しさ(「安全制御機器をきちんと作動させていました」)、依拠するシステムの正当性(「それは~年度国土交通省認定のシステムです」)となる。

あなたの振る舞いが望ましい結果を出せなかったとしても、例えば服装がダサければ、“やっぱり、~コーディネイトはイケてないね”となる。あなたが日付変わってワイン・バーから泥酔して帰宅すれば、奥さんは何も言わずあなたからスマホを取り上げ、AI-ソムリエの飲み方コーディネイト設定を再入力するだろう。

※本記事は、2018年12月刊行の書籍『人間を見つめる希望のAI論』(幻冬舎ルネッサンス新社)より一部を抜粋し、再編集したものです。