2人のグーグル社員はBardのリリースを阻止しようとした…上司は提言をレポートから削除し、AIチャットボットは公開された

2人のグーグル社員が、AIチャットボット｢Bard｣を公開しないよう提言した。

View Pictures/Getty Images

• ニューヨーク・タイムズによると、2人のグーグル社員が同社のAI開発に警鐘を鳴らしたという。

• 彼らは、同社のAIチャットボット｢Bard｣を公開しないように提言したのだ。

• Bardが危険で間違った発言をすることを恐れたからだという。

グーグル（Google）の社員が同社のAI開発について警鐘を鳴らしたとニューヨーク・タイムズ（NYT）が報じている。

2023年3月、グーグルのResponsible InnovationグループでAI製品のレビュアーをしていた2人の社員がリスク評価レポートの中で、同社のAIチャットボット｢Bard（バード）｣は安全策を講じたとしても、まだ準備が整っていないため、公開しないよう提言したと、関係者がNYTに語っている。彼らはBardが危険で間違った発言をすることを恐れたのだという。

しかし、2人が所属するグループのディレクターであるジェン・ジェナイ（Jen Gennai）は、そのレポートから提言を削除し、チャットボットのリスクを軽いものとして書き換えたという。

もっと知る

ある男はChatGPTに100ドルをできるだけ増やす方法を聞き、実行した。その結果は…

もっと知る

グーグルの対話型AIチャットBard、契約社員も動員してテスト中も…｢検証時間が足りず見当で評価｣

ジェナイは｢レビュアーが挙げた潜在的なリスクに項目を追加し、分析結果を強化｣したとInsiderに述べている。それをシニアプロダクト、リサーチ、ビジネスを主導する委員会にかけ、限定的な実験的公開の段階に進むことが適切だと判断したという。開発を進めるかどうかについて、レビュアーに意見を求めたわけではなかったと彼女はNYTに語っている。

グーグルの担当者はInsiderにこう述べている。

｢我々はBardの実験がすでに好評を博していることに満足している。まだ改善途上ではあるが、評論家やユーザーはBardがかなり注意深く制限を設けて、控えめに公開されたことを理解している｣

ここ数カ月、テック界では生成AI製品の開発が猛スピードで進めらられている。この競争は、OpenAIのChatGPTが公開され、大きな話題となったことに促されているが、その開発スピードの速さを警戒する人もいる。

3月には高度なAI開発を6カ月間休止することを求める公開書簡に、AI界の有力者たちが署名をした。この書簡は、AI企業が｢制御不能な競争｣に陥っているとし、先端テクノロジーが社会にもたらす重大なリスクを挙げた。

書簡に署名した1人で、The Centre for the Study of Existential Riskのリサーチアソシエイトであるジョン・バーデン（John Burden）は、AIの開発速度がかつてないスピードで加速していると、以前Insiderに語っている。

｢5年前に、今後10年以内に実現することはありえないと思われていたことが、すでに実現して過去のものになっている｣と彼は言う。

｢これがもっと大きなスケールになると、このテクノロジーがもたらす影響に対して、我々はまだ準備ができていない。これらのモデルが何をしているのかすら、我々はよく理解していないのだから｣