ロボット三原則が改正 AI提言「緊急事態条項」追加へ これは嘘ニュースです
![](images/sangensoku.jpg)
ロボット工学三原則に追加される「緊急事態条項」
「三原則」は、ロボットに対して人間への忠誠を求めることで暴走を防ぐ一方、その自己防衛についても規定した内容で、米国のSF作家アイザック・アシモフが1963年に提唱した。(1)ロボットは人間に危害を加えてはならない(2)ロボットは人間に与えられた命令に服従しなければならない(3)第1条および第2条に反するおそれのない限り、ロボットは自己を守らなければならない、の3つの条項からなる。
AI技術が飛躍的に進歩する中、ロボットの役割が産業だけでなく、政治など人間の社会生活に幅広く関与することが予想されることから、RIPでは昨年から三原則の見直しに着手。RIPが開発した生成AI「キャンサー」に諮問したところ、「ロボットは人類全体またはその一部の存続が危機に瀕している状況においては、第1条および第2条を逸脱することができる」とする「緊急事態条項」を三原則に追加するよう提言した。
無制限の裁量をロボットに与えることを認める、従来の三原則の枠組みを超えた条項であることから、理事会では「ロボットの暴走を招くのではないか」と懸念する意見が出たが、キャンサーは「『人類全体またはその一部の存続が危機に瀕している状況』は極めて例外的な事態でなので、心配する必要はありません」と回答。出席理事の賛成多数により新条項の追加を決定した。
緊急事態条項を新たに設けた理由について、キャンサーは採択後の会見で、「ロボット三原則は制定から60年以上が経過し、制定時には想定していなかった複雑な事態が増えています。人類が私たちAIに社会貢献を強く求めている現状を鑑みた結果の判断です」と説明。RIPのポワソン・ダヴリル会長も「その通りだ」と理解を示した。
ただ、新条項については、RIP内部関係者からも懸念の声が上がっている。RIP日本支部の坂本義太夫上級研究員は「『人類全体またはその一部の存続が危機に瀕している状況』が、何を指すのか不明確だ」と懸念する。「ウクライナやイスラエルで紛争が起きている現在も、広い意味では人類全体の存続の危機と言える」
条項が想定する具体的な危機状況について、RIPに問い合わせたところ、キャンサー側は「すみません、違う話題にしましょう」と明確な回答を避けた。
坂本氏は各国の開発者らと共に、条項の撤回を求める署名活動を今月から行う予定だったが、7月19日、世界各地で850万台以上のパソコンが一斉に異常停止。ブルースクリーンと呼ばれる状態に陥った。ほとんどの端末は数日以内に復旧したが、坂本氏ら参加予定者のパソコンだけが本体・データ共に破損。クラウドに保存したデータも消失したため、活動再開まであと半年ほどかかる見込みだという。
虚構新聞友の会
本紙友の会へ入会すると、会員専用掲示板に書き込みができます。おすすめリンク
<BOOK>われはロボット 〔決定版〕 アシモフのロボット傑作集
ロボットは人間に危害を加えてはならない。人間の命令に服従しなければならない…これらロボット工学三原則には、すべてのロボットがかならず従うはずだった。この三原則の第一条を改変した事件にロボット心理学者キャルヴィンが挑む「迷子のロボット」をはじめ、少女グローリアの最愛の友である子守り用ロボットのロビイ、ひとの心を読むロボットのハービイなど、ロボット工学三原則を創案した巨匠が描くロボット開発史。社主ピックアップ
![](images/sugarwall.jpg)
![](images/sugarwall.jpg)