【グロック】生成AI「Grok」に苦情殺到、子どもの服を脱がすこともできる画像編集機能めぐり

【AFP＝時事】米実業家イーロン・マスク氏が率いる人工知能新興企業xAIの対話型生成AI「Grok」は2日、子どもや女性の写真をエロチックな画像に変換しているとのユーザーからの苦情を受け、人工知能ツールの不具合の修正に取り組んでいると発表した。

GrokはX（旧ツイッター）への投稿で、「セーフガードに不具合があることを確認しており、急ぎ修正している」「CSAM（児童性的虐待コンテンツ）は違法で、禁止されている」と述べた。

昨年12月下旬にGrokに「画像編集」機能が追加されて以来、児童性的虐待に対する苦情がXに寄せられるようになった。

この機能を使えば、X上のあらゆる画像を修正できるため、写真に写っている女性や子どもの服を部分的または完全に脱がせているユーザーもいるという。

続きは↓
生成AI「Grok」に苦情殺到、子どもの服を脱がすこともできる画像編集機能めぐり https://topics.smt.docomo.ne.jp/article/afpbb/world/afpbb-3616554