【ロボット法】AI導入で事故が起きたら、誰の責任になる?

2019年2月9日現在では、AIに関する法律が明確にあるわけではありません。

日本国内ではガイドラインが選定されている程度です。
以前、政府から発表されたAI活用7原則について記事を書きましたが、こちらを元に世界と協議している状況です。

今回は、現段階のAI導入における”法律”に関してまとめてみました。

私は弁護士ではなく、法律に精通しているという訳ではないので、本稿の厳密性や、本稿により発生したいかなる損害やトラブルなどにおいても筆者や本サイトは責任を一切負わないので、その点はあらかじめご了承ください。

AIに関する議論や制度を決めている日本の政府機関は?

日本では、平成28年10月より総務省情報通信政策研究所にて、社会全体におけるAIネットワーク化の推進に向けた社会的・経済的・倫理的・法的課題を総合的に検討することを目的として、産学民の有識者の参加を得て「AIネットワーク社会推進会議」を開催しています。

また、経済産業省では、民間事業者等が、データの利用等に関する契約やAI技術を利用するソフトウェアの開発・利用に関する契約を締結する際の参考として、契約上の主な課題や論点、契約条項例、条項作成時の考慮要素等を整理した「AI・データの利用に関する契約ガイドライン」を作成しています。

総務省、経済産業省とそれぞれに情報機関があり、連携しているようです。

OECD(経済協力開発機構)による国際的な「AI専門家会合:「AIGO」(Artificial Intelligence expert group at the OECD)の場にて、総務省「AIネットワーク社会推進会議」のなかでかねてから議論を進めてきた“日本版ガイドライン”を海外にも示しながら、世界との議論を進めています。

日本国内におけるAI開発ガイドライン案(9原則)

①連携の原則開発者は、AIシステムの相互接続性と相互運用性に留意する。(主にリスクの抑制に関する原則)
②透明性の原則開発者は、AIシステムの入出力の検証可能性および判断結果の説明可能性に留意する。
③制御可能性の原則開発者は、AIシステムの制御可能性に留意する。
④安全の原則開発者は、AIシステムがアクチュエータ等を通じて利用者および第三者の生命・身体・財産に危害を及ぼすことがないよう配慮する。
⑤セキュリティの原則開発者は、AIシステムのセキュリティに留意する。
⑥プライバシーの原則開発者は、AIシステムにより利用者および第三者のプライバシーが侵害されないよう配慮する。
⑦倫理の原則開発者は、AIシステムの開発において、人間の尊厳と個人の自律を尊重する。
⑧利用者支援の原則開発者は、AIシステムが利用者を支援し、利用者に選択の機会を適切に提供することが可能となるよう配慮する。
⑨アカウンタビリティの原則開発者は、利用者を含むステークホルダーに対しアカウンタビリティを果たすよう努める

引用元:総務省「AIネットワーク社会推進会議報告書 2017

万が一AIが事故を起こしたとしたら、誰の責任か

結論からお伝えすると、現段階では相当因果関係で評価されると考えられています。

AIが起こした事故の原因が、AI開発者にあるのか、AIを組み込んで新たに製品を開発した企業にあるのか、はたまた利用者側に責任があるのか、十分に検討して、結果的に責任の所在を明確にしていきます。

AI開発ガイドラインのなかに「透明性・制御可能性とアカウンタビリティ(説明責任)」がありますが、AIがブラックボックス的に答えを出すことがあるため、開発者がAIが結果を出力する仮定のすべてを把握と理解をしておくということは、現実的ではない場合があります。

透明性を担保することの難しいAIに関しては、AI開発者の主な責任の範囲は、読み込ませる情報(インプット)と判断した結果(アウトプット)になります。「AIがある判断を下した機序・筋道を全て明らかにすることが困難であっても、インプットしたデータとその結果のアウトプットの関係は説明できるようにしておいて欲しい」という考え方が基本です。

身体・生命・財産などに影響力のあるAIシステムに関しては、監査資料の提出義務が生じる可能性があるかもしれません。

欧州では?

これは、エストニアでビジネスをしている友人に聞いたのですが、欧州の方向性としてはAI自体に人権をもたせ、そのAIに責任を取らせようという動きがあるようです。

どういうことかといいますと、

例えば、AIをスタッフとして見立てたら、そちらを採用している企業側に責任があるということ。また、AIを子供として招き入れたら、親に責任があるということです。

AI自体に責任を負わせることを前提とし、難しい場合は管理監督する責任のある人に対して責任がのるというようなイメージです。

まとめ

人工知能(AI)技術をつかったサービスは増えており、技術自体も発展途上です。
最近の流れだと、技術が先行して、その技術動向を元に法整備が進むという流れになっています。

弊社でも、弁護士の方々と定期的に議論を行い、今後の法整備に関しても情報をキャッチアップするとともに未来予測しております。

開発する側の責任はもちろんですが、使用する側の責任も十分に考慮してAI導入を行っていきましょう。

関連記事一覧

  1. この記事へのコメントはありません。