日本でも利用者が急増している対話型の生成AIサービスは、大規模言語モデルと呼ばれる技術を使って、人間のように会話しながら情報を提供してくれる便利な存在である。
だがその一方で、ユーザーの期待に応えようとしすぎるあまり、もっともらしい嘘の情報を本当のように作り出してしまう「ハルシネーション（幻想）」引き起こすという問題も抱えている。
そんなAIの“幻覚癖”が、あるユーザーの一言で引き起こされた。それは「タツノオトシゴの絵文字を見せて」と尋ねたことで始まった。
ちなみにタツノオトシゴはユニコード（Unicode）には存在しない絵文字である。
存在しないものにどうにか答えようとするAIは、やがて自分の中で矛盾に陥り、混乱し、ついには暴走じみた返答を始めたのだ。
▼あわせて読みたい
・AIの暴走を32パターンに分類、その多くは人間の精神疾患に良く似ていた
・生成AIは学術論文を誤って要約することが多く、新型モデルはより悪化している
・AIに罰を与えても嘘や不正は止まらない、ずる賢くなるだけ。GPT開発元の衝撃研究
・ほとんどのAIはアナログ時計の時刻やカレンダーの日付を正確に把握できない
・これは何をつまんでいるの？とても小さい感じなのですが・・・新たに導入された国際規格の「絵文字」が波紋を呼ぶ
この記事のカテゴリ：サイエンス＆テクノロジー / 知る
Source: カラパイア
