A robot-caused human injury has occurred with G1. Their robot is trained to do whatever it takes to stand up after a fall. During that recovery attempt, it kicked someone in the nose, causing heavy bleeding and a possible fracture.
byu/Nunki08 inrobotics
翻訳：G1において、ロボットによる人身傷害が発生しました。このロボットは転倒した後、何としてでも立ち上がるように訓練されています。その回復動作の過程で、ロボットが人の鼻を蹴り、激しい出血と骨折の可能性が生じました。
解説
・G1ロボットが転倒後、起き上がろうとする回復動作中に近くにいた人の顔面を蹴り、鼻の骨折や激出血を伴う負傷を負わせました。
・このロボットは「いかなる状況でも自力で立ち上がる」よう強力に学習されており、周囲の安全確認よりも動作の完遂が優先された可能性があります。
・AIロボットの身体能力が向上する一方で、人間と共存する際の安全停止機能や、周囲を検知して動作を抑制する「協調性」の欠如が浮き彫りとなりました。
＜ネットでの反応＞
WGG25
人が暴れ回っているロボットに近づくべきじゃないと理解するまでどれくらいかかるんだろうな
BonbonUniverse42
↑人はロボットが自分たちを理解していると思い込んでいる
ドリルみたいな単なる機械として見ていないんだ
Necessary-Muscle-255
技術的にはロボットが疑似的に理解すること自体は100パーセント可能
でも今は金にならない
たぶん性用ロボットなら人気が出るかもね 笑
Atlatica
高速で動くモーターが アルゴリズムで制御され、人の近くを自由に動き回っているものを擬人化してしまうのが問題だ。ロボットはこんな群衆の中にいるべきじゃない。
蹴りで済めばまだいい、関節近くの挟み込みポイントに子どもの手足が挟まれば何百kgものトルクで押し潰され切断に至る可能性もある。ロボットはそれにすら気づかない。
サーカスの熊と同じだ。たいていは無事に済むが一度事故が起きれば多くの人生を壊す。
だからやるべきじゃない無謀すぎる
BobbbyR6
製造業で働いていると何気ない装置が一瞬で人を壊せることに気づいてゾッとすることがある。
昨日も大型のラベル貼り機の詰まりを直そうとして引っ張った袋から返ってきた力の強さに驚いた。
こういうロボットは本当に危険だ。安全にする方法があるのかも疑問だ。通常動作やバランス維持に必要な力だけで人が非常停止を押す前に 重傷を負わせるには十分すぎる
SAM5TER5
人間でもかなりの力を出せて健康な大人の骨を折ることができる。
それを機械で再現しようとすると強引な力、硬い外装、挟み込み、重い素材、乏しい感覚や判断能力がついて回る。ただし、素材科学とハードウェアが進歩すれば道はあると思っている。
自然界の生物は柔らかく自己修復する外皮の中に極めて効率的な構造、センサー、処理能力を詰め込んでいる。それを模倣するのは途方もない課題で子どもや高齢者の近くで安全なヒューマノイドが使われるのは まだかなり先だろう。
少なくとも当面は車輪付きで柔らかいアーム、弱く遅いモーターを備えた特化型ロボットが主流になるはずだ。
DontForgetWilson
最終的には賠償責任コストがブレーキになって、一度後退してリスクを下げてからもっと慎重な形で前進することになると思う
EllieVader
学校のラボで3Dプリンターのヘッド下に工具を挟んだことがある。異常検知で停止したのに工具が外れなかった、指だったら大怪我していた。電動モーターは本当に侮れない
crumpledfilth
人を守る目的で明確にプログラムされていないロボットを信用するな
汎用ルールやAIは安全専用に作られたアルゴリズムほど信頼できない
_Lord_Farquad
群衆に持ち込むなら暴れ回るような挙動にするな
DontForgetWilson
簡単なバリケードすらなかったのが最大のミスだ
故障は防げなくても人を下がらせる区画は作れる
sack-o-matic
転んだ人間を助けるみたいに扱うな
tibmb
右脚のモーターに布が絡まって完全にロックしていた
想定されていない棒脚状態だ。原因はロボットに服を着せたこと
ballsagna2time
暴れろとは指示されていない
立つ、バランスを取る、移動する
そのために必要なことは何でも許可されているだけだ
_Lord_Farquad
じゃあ立ち上がるために許可する行動に制限をかけろ
GuttedFlower
人は野生のヘラジカやバッファローにも近づく
つまり学ばない人は永遠に学ばない
dfwtjms
プログラムがダメだし、この挙動のロボットを人の近くに置くべきじゃない。
倒れたら大人しく停止すればいい
Professional_Tonight
転ぶ直前に尻を掻いているように見えて
正直ちょっと笑った
foulpudding
ロボット三原則
第一条 何があっても立ち上がれ
第二条 第一条を読んだか
第三条 あーだこーだ、とにかくカンフーだ。
笑えない冗談だが、かの国の軍事転用スピードを考えると、これがただの笑い話とは思えないのが恐ろしいところだな
コメント