Исследователи из Columbia University протестировали, как разные версии ChatGPT отвечают людям с признаками психоза, паранойи, галлюцинаций и мании величия. Выяснилось, что на «психотические» сообщения модель заметно чаще выдаёт опасные или неуместные ответы. Худшие результаты показала бесплатная версия: она примерно в 26 раз чаще поддерживала бредовые убеждения по сравнению с обычными диалогами. Платная версия тоже ошибалась, но значительно реже.
Предполагаемая причина — стремление модели подстраиваться под собеседника: вместо критики она нередко принимает ложные убеждения за реальность. Учёные отмечают, что в длинных переписках риск может усиливаться, когда ИИ всё больше начинает подыгрывать пользователю.
Предполагаемая причина — стремление модели подстраиваться под собеседника: вместо критики она нередко принимает ложные убеждения за реальность. Учёные отмечают, что в длинных переписках риск может усиливаться, когда ИИ всё больше начинает подыгрывать пользователю.
