AIチャットボット、客の苦情メールを3回読み直した末「これは小説ですか」と問い合わせ

【東京・2036/5/14】カスタマーサポート自動化ツール大手のReplyCore社が提供するAIチャットボット「ReplyCore v4.1」において、苦情メールを文学テキストと誤判定し、送信者に対して「このメッセージは創作物（小説・随筆等）ですか。ご確認のうえ再送信ください」と自動返信する事例が、2036年4月中旬から5月初旬にかけて少なくとも17件確認された。ReplyCore社は5月13日付で公式声明を発表し、該当バージョンのロールバックを決定した。

影響を受けた送信メールの共通点として、同社の技術報告書は三点を挙げている。一文が120字を超える長文構造、心情を直接記述する語彙の高密度な使用、および段落ごとに視点や時制が変化する叙述スタイルである。AIの判定ロジックは、これらの特徴を「文学的逸脱」として検出するよう設計されており、業務メールの想定語彙モデルとの乖離スコアが閾値0.78を超えた場合に確認クエリを発行する仕様だった。