GoogleのCEOが認めた「AIの中身はブラックボックス」「未解明の部分がある」

ナレーター: AIシステムは、期待されていなかったスキルを自ら習得しています。これがどのようにして起こるのかは、十分に理解されていません。

Google社員（ジェームズ・マニカ氏）: ベンガル語のプロンプト（指示）をわずかに与えただけで、AIがベンガル語のすべてを翻訳できるようになったことが分かりました。

サンダー・ピチャイCEO: 私たちが「ブラックボックス」と呼んでいる側面があります。完全に理解しているわけではないのです。なぜAIがそのように発言したのか、あるいはなぜ間違えたのかを正確に説明することはできません。

インタビュアー: どのように機能しているか完全に理解していないのに、社会に解き放ったのですか？

サンダー・ピチャイCEO: こう言いましょう。私たちは人間の心がどのように機能しているかも、完全には理解していないと考えています。

解説

・未知の習得。AIは学習データにないはずの言語翻訳などのスキルを、プログラミングされずとも自発的に習得することがあります。

・解明不能の仕組み。 なぜその回答に至ったのかというプロセス（ブラックボックス）は、GoogleのCEOですら正確には説明できません。

・倫理性への問い。 「仕組みが不明なまま社会に提供すること」の危うさと、それを「人間の脳も未解明である」とする開発側の見解が対立しています。

＜ネットでの反応＞

人気ブログランキング