ChatGPT手掛けるオープンＡＩ、偏向や不適切な応答の減少に取り組む

チャットボット「ChatGPT（チャットＧＰＴ）」を手掛ける人工知能（ＡＩ）研究会社オープンＡＩは、システムの偏向を減らすよう取り組んでおり、不適切な応答や結果のエラーに関する一連の報告を受けてユーザーによる限定的なカスタマイズを認めることを明らかにした。

オープンＡＩはブログへの投稿で、「われわれは研究とエンジニアリングに投資しており、チャットＧＰＴがさまざまなインプットに回答する際に目に付いたり微妙だったりする偏向を減らすよう取り組んでいる」と説明。「現時点でチャットＧＰＴは拒否すべきではないアプトプットを拒否したり、拒否すべきアウトプットを拒否しないケースがある」と付け加えた。

同社はチャットＧＰＴ自体による偏向や不正確さ、不適切な反応に関する報告のほか、マイクロソフトやアルファベット傘下グーグルが試験中の新しいチャットベースの検索製品に対する幅広い批判に対応している。

また、各ユーザーがチャットＧＰＴを自分の好みやスタイル、見解に合わせて限定的にカスタマイズできるようにするためアップデート版を開発していることも明らかにした。

オープンＡＩは「個々の人々にとってＡＩは有用なツールであるべきであり、社会的に定義される限度内で各ユーザーがカスタマイズできるべきだと考えている」とコメントした。

その上で「これは、（われわれ自身を含め）他の人々が強く同意しないかもしれないシステム出力を許容することを意味する。ここで適切なバランスを取るのは難しいだろう 。カスタマイズを極端に行えば技術の悪用を可能にし、人にへつらうようなＡＩが人々の既存の信念を見境なく増幅するリスクがある。それ故、システムの動作には常に何らかの限度が存在する」と説明した。

関連記事

• ＡＩ搭載のマイクロソフト検索エンジン、テストユーザーが高評価

原題：ChatGPT Maker OpenAI Is Working to Reduce Bias, Bad Behavior（抜粋）