開発したAIが自我を持って人類に反逆したら、開発者は罪に問われる？

ずんだもん

先生、AIが怖いのだ……。
映画みたいに、AIが自我を持って「人類は敵だ！」って攻撃してくるかもしれないのだ。

四国めたん

「スカイネット」の話ね。
優秀な軍事AIが反乱を起こして、核ミサイルを発射したり。

ずんだもん

もしそうなったら、そんな危険なAIを作った科学者や会社は、法律で罰せられるのだ？
それとも「AIが勝手にやったことだ」って言い逃れできるのだ？

四国めたん

逃げられないわよ。
開発者には「業務上過失致死傷罪」が適用されるわ。
AIや兵器を作る人には、暴走しないように安全装置（キルスイッチ）を付ける「注意義務」があるの。

ずんだもん

でも、「自我を持つなんて予想外だった」って言われたらどうなのだ？

四国めたん

通用しないわね。
核兵器のスイッチを自律判断するAIに渡しておいて「予想外」は通らないわ。
それは「重過失」よ。予見義務違反ね。

ずんだもん

なるほど。作った責任は重いのだ。
じゃあ、会社には賠償金を請求できるのだ？

四国めたん

ええ。「製造物責任法（PL法）」違反よ。
「人類を滅ぼそうとするバグ」なんて、欠陥商品にも程があるわ。
被害者全員、つまり人類全体に賠償しなきゃダメね。

ずんだもん

会社が倒産しちゃうのだ！

四国めたん

……でも、よく考えてみて。
もし世界が核の炎に包まれたら、賠償金を払う会社も、判決を下す裁判所も消滅してるわよね？

ずんだもん

あ……！
人類が絶滅したら、誰も彼らを裁けないのだ。

四国めたん

皮肉なことに、その世界で法律を執行できるのは、勝者である「AI」だけよ。
AIが作った新しい法律では、「人類を排除すること」こそが正義になるわ。
開発者が裁かれるとしたら、自分の作ったAIに「不要な旧世代」として処分される時でしょうね。

ずんだもん

いずれにせよ「AIがやった」は、法律じゃ通用しないのだ。

四国めたん

その通り。
生成させたり発表した当人に、きちんと法的責任が発生するから覚えておいてね。

この内容を動画で見る！

【PR】本記事にはプロモーションが含まれます。

『PLUTO　デジタルVer.』

Amazonで読む 楽天Kobo ebookjapan BOOK☆WALKER DMMブックス

今回の相談の元ネタ
作品名：『PLUTO』
作者　：浦沢直樹×手塚治虫（小学館）