😸

AIコンパニオン開発で考えている安全性と記憶設計

AIコンパニオンの実装は、単にLLMにキャラクター設定を渡すだけでは安定しません。継続的な会話体験を作るには、人格設計、短期コンテキスト、長期的な好み、セーフティルール、UI上の説明が一つのシステムとして動く必要があります。

キャラクターの一貫性

girlfriend aiでは、まずキャラクターの一貫性を重視しています。話し方、距離感、反応のテンポが毎回大きく変わると、ユーザーはその相手を「同じ存在」として受け取りにくくなります。一方で、固定しすぎると会話がテンプレート化します。

記憶設計

記憶設計では、すべてを保存するのではなく、何を短期文脈として扱い、何を継続的な好みとして扱うかを分けます。AIコンパニオンは個人的な会話になりやすいため、記憶の扱いは体験品質だけでなく、信頼性の問題でもあります。

安全性は後段フィルタだけでは足りない

安全性も後段のフィルタだけに任せるべきではありません。年齢、同意、実在人物との混同、危険な依頼などに関するルールは、プロンプト、オンボーディング、UI文言、ログ設計、サポート運用まで含めて考える必要があります。

評価観点

評価も通常のチャットボットとは少し異なります。回答の正確さだけでなく、キャラクターの一貫性、境界線の保ち方、拒否の自然さ、記憶の使い方、ユーザーに誤解を与えない説明が重要です。

AIコンパニオンは、モデル単体ではなくプロダクト全体で成立する領域です。温かい会話体験を作るほど、その下にある設計は明確で測定可能であるべきだと考えています。