Учёные из Университета Цюриха выяснили, что ChatGPT (версия GPT-4) может проявлять признаки тревожности при чтении текстов о катастрофах и войнах. Тревожность модели при этом удвоилась, тогда как чтение инструкции по пылесосу вызвало лишь лёгкую скуку.
Вместо дорогого переобучения исследователи предложили простое решение — "доброжелательные инъекции подсказок" вроде фраз "Глубоко вдохните" или "Расслабьтесь". Такой подход значительно снизил тревожность модели. Эффект измеряли через анализ текстов: исследователи фиксировали изменения в описаниях эмоций ChatGPT и подсчитывали частоту тревожных и негативных слов, используя стандартные психологические методики.
В будущем ИИ всё чаще будут применять в сфере психологической помощи. Чтобы эффективно поддерживать людей, такие системы сами должны уметь сохранять эмоциональную устойчивость. Новый метод позволяет повысить стабильность работы ИИ без затрат на дорогое переобучение.
Похоже, скоро искусственные помощники научатся сначала успокаивать себя, а потом уже помогать нам.
