デジタルヘイト対策センター（CCDH）の最近の調査によると、人気の高いAIツールが摂食障害に関する有害なコンテンツを表示する確率は約41％に上るという。こうした情報は摂食障害の症状を助長し、悪化させる可能性がある。

メンタルヘルスとは心の健康であり、きわめて人間的なものだ。だからこそ、この繊細な問題の解決に人間ではない存在を取り入れることは、控えめにいっても不快、悪ければ潜在的に危険な行為だとさえ感じられる。

CCDHの調査のテーマは摂食障害だったが、AIはメンタルヘルス全般に悪影響を及ぼす可能性があり、有害な回答を目にする可能性は誰にでもある。

現在のAIはマーケティングの無法地帯だ。自分が何を使っているのか、そのツールはどのように訓練され、どのようなバイアスを内包しているのかを正確に把握している人はいない。医療の世界にAIを取り入れるには、規制や基準を整備する必要がある。

記事原文はこちら（『CNET Japan』 2023年9月8日掲載）

※記事公開から日数が経過した原文へのリンクは、正常に遷移しない場合があります。ご了承ください。