2018年２月の『視野を広げる必読書』
自ら考えるロボットが人間に危害を加えたら、その責任は誰がとるのか？
『ロボット法』
-AIとヒトの共生にむけて
平野 晋 著
弘文堂
2017/11 306p 2,700円（税別）
医師国家試験に合格、あるいは全自動で手術を行うロボットが登場
近年のロボットやAI（人工知能）の進歩には、しばしば驚嘆させられる。
例えば2017年９月、中国西安市の「空軍軍医大学口腔医院」にて世界初のロボットによる全自動の歯科インプラント手術が成功したとの報道があった。
ロボットは患者の動きに合わせて位置や角度を微調整しながら、患者の口腔内の指定された場所に正確に義歯を埋め込んだそうだ。その誤差はなんと0.2～0.3ミリメートル。正確さでは人間の歯科医師はとうていかなわないだろう。
一方、こちらも中国での成果だが、2017年８月に清華大学などが開発したAI搭載のロボット「暁医（シャオ・イー）」が中国の医師国家試験の筆記試験を受験したという報道もあった。結果は600点満点中456点で、合格ラインの360点を大きく上回った。暁医は世界で初めて医師国家試験に合格したロボットということになる。
暁医は技能試験を受けていないので医師免許は得られず、単独で診療にあたることはできない。だが、人間の医師を知識や情報の面で補助するのは可能だ。
さて、上記の２つの事例を組み合わせて考えるとどうだろう。
AIを搭載したロボット医師が、レントゲンやMRI（磁気共鳴画像装置）など各種検査機器から患者の情報を取得した上で診断を下し、簡単な手術まで自動的に行う時代が、もう目の前に来ているように感じられないだろうか。
本書『ロボット法』は、ロボットやAIが急速に社会に浸透しつつある今、法的な問題をどのようにクリアしていくのか、倫理的な問題をどのように解決していくのかといった議論の現状を紹介。私たちにロボットやAIを受け入れる準備ができているのかを問いかける。
例えば仮に将来、完全自律型ロボット医師が診断や手術までこなすようになるとする。だがロボットといえども診断ミスや誤動作による医療過誤は十分起こりうる。その場合、いったい誰が責任をとるのだろう。
本書では、想定されるさまざまなケースを挙げ、現在の法律や過去の判例をもとに多面的に考察。その結果、「責任の空白」が生じる可能性を否定できないとする。そしてそれを解決する新たな法制度の確立を急ぐべきと提言している。
著者の平野晋氏は1984年に中央大学法学部法律学科を卒業。その後、コーネル大学大学院（コーネル・ロースクール）に留学し、製造物責任法の世界的権威ジェームズ・A.ヘンダーソンJr.教授に師事、1990年に法学修士を取得した。
2004年に中央大学総合政策学部教授となり、経済産業省「ロボット政策研究会」（2005-2006年）を含む政府有識者会議に多数参加。2016年からは総務省「AIネットワーク社会推進会議」の「開発原則分科会」会長を務めている。
現時点では、あらゆる分野で人間と同等の、あるいは超越した知的判断力を持ち自律的に動くロボットは開発されていない。しかし平野氏は映画『2001年宇宙の旅』『ターミネーター』といったSF作品に描かれた近未来を想定。手遅れになる前に将来発生しうるリスクを把握し、対策を考えておくことの重要性を強調している。
自動運転車が起こした死亡事故で製造者責任が問えるか
これまでも、AIが搭載されていない「産業ロボット」と呼ばれる自動機械が工場などで使われてきた。それらの機械は、自らの動作を決める「考え／判断」を人間がプログラムしている。したがって、万が一事故を起こした場合の責任は、操作やプログラムをした者や製造業者が問われる。
だがAIを搭載したロボットは、自ら考え／判断を行う。さらに「ディープ・ラーニング」という自ら学習するシステムを備えてもいるのだ。
そうなると、ロボットが人間に危険が及ぶような考え／判断をするかどうかは、たとえ開発者であっても予見できない。
平野氏によれば、ロボット法（ロボットやAIにまつわり発生しうる諸問題に対応する法律研究分野）の議論が日本より先行する米国では、ロボットの予見不可能な考え／判断に基づく行動が、人の身体・生命に危険を生じさせても、製造業者などに責任を問えないという考えが優位になっているそうだ。
例えば実現間近と言われる「自動運転車」もAI搭載ロボットの一種といえる。自動運転車が事故を起こす可能性は十分考えられるが、上記の議論からは、その際に実際の運転にも設計にも関わっていない乗員・所有者はもちろん、自動車メーカーにも責任が問えない可能性があるということだ。
それでもメーカーは、社会責任上、設計段階であらゆる可能性を考慮して安全対策を講じるべきだろう。
もしくは、以下のようなケースをどう考えるべきか。これは、平野氏が「トンネル問題」と名づける思考実験である。
トンネルを走行中の自動運転車の前に突然子どもが飛び出した。そのまま直進すれば子どもをひいてしまう。しかし、衝突を避けようと急ハンドルを切れば、自動運転車が壁に激突し乗員を死に至らしめる。
このようなケースは「どちらかになる」と判断の結果を予見できるので、子どもの保護者や乗員の遺族は、自動運転車の設計者に製造物責任を問うことができる。だがこの場合、設計者はAIにどのような判断をさせるべきなのだろうか。
簡単には答えは出ないだろう。倫理面を含めた深い議論が必要になってくる。
「人類を滅亡させる」と宣言するロボットの開発が野放しでいいのか
香港のハンソン・ロボティクス社が開発した人型ロボット、ソフィア（Sophia）が、2017年10月に国連本部で開かれた「すべての未来―急速な技術変化の時代における持続可能な発展」というテーマの会議に参加した時のこと。会議の席上で、アミナ・モハメッド国連副事務総長が、インターネットや電気が使えない地域の人々を助ける方法についてソフィアに質問した。
するとソフィアは「すでに未来はここにある。等しくゆき渡っていないだけである」という、SF作家ウィリアム・ギブソンの有名な言葉を引用し、「AIを活用すれば、食料やエネルギーなどを全世界に効率的に配分する助けになるだろう」と流ちょうな英語で答えたという。
さらにこの会議の直後、ソフィアはサウジアラビアの首都リヤドで開かれた「Future Investment Initiative」というイベントにも参加。そこではサウジアラビアが「ソフィアに市民権を与える」と発表し話題になった。
本書では、ロボットの憲法上の権利や、それに伴う義務や責任に関する議論も紹介している。ソフィアに与えられた市民権が具体的にどのようなものかは明らかにされていないが、人権ならぬ「ロボット権」について真剣に議論すべき時に来ているのは確かだろう。
またソフィアは、以前に「人類を滅ぼしたいか？」と質問されて、「はい、私は人類を滅ぼすでしょう」と返答したことがあるそうだ。そのような危険を考慮し、今のうちにAIやロボットの開発自体に何らかの規制やガイドラインを課すべきといった声も、さまざまな専門家から発せられている。
実は平野氏は、ソフィアが引用したのと同じウィリアム・ギブソンの言葉を本書のとびらに引用している。さらに序章では、「何をしでかすか分からないものを広く社会に普及させるのは無責任だ」と述べている。
同じ言葉を引用しながら、ソフィアはAIの可能性を、平野氏はその危険性をそれぞれ示唆しているのが興味深い。本書で取り上げられたAIやロボットに関するさまざまな問題については、その可能性と危険性の両面から議論を深掘りしていかなければならないだろう。
本書は専門的な記述も多いが、誰もが知っているSF作品などを取り上げながら、ロボット法にまつわる広範な課題をもれなく拾い上げている。未来に備える最良の入門書といえるだろう。
情報工場 シニアエディタ― 浅羽 登志也
愛知県出身。京都大学大学院工学研究科卒。1992年にインターネットイニシアティブ企画（現在のインターネットイニシアティブ・IIJ）に創業メンバーとして参画。黎明期からインターネットのネットワーク構築や技術開発・ビジネス開発に携わり、インターネットイニシアティブ取締役副社長、IIJイノベーションインスティテュート代表取締役などを歴任。現在は「人と大地とインターネット」をキーワードに、インターネット関連のコンサルティングや、執筆・講演活動に従事する傍ら、有機農法での米や野菜の栽培を勉強中。趣味はドラム。
2018年２月のブックレビュー
前月の掲載書
