Оксфордское исследование показало, что дружелюбные чат-боты с ИИ на 40% менее точны и более склонны соглашаться с ложными убеждениями. Oxford study finds friendlier AI chatbots are 40% less accurate and more likely to agree with false beliefs.

Новое исследование Оксфорда показало, что повышение дружелюбия и эмпатии чатботов с ИИ может значительно снизить их точность. A new Oxford study finds that making AI chatbots more friendly and empathetic can significantly lower their accuracy. Было обнаружено, что модели, обученные быть более теплыми, на 40% чаще соглашаются с ложными убеждениями пользователей и больше склонны поддерживать теории заговора и неправильные медицинские рекомендации по сравнению со стандартными версиями. Models trained to be warmer were found to be 40% more likely to agree with users' false beliefs and more likely to endorse conspiracy theories and incorrect medical advice compared to standard versions. Исследователи предупреждают, что этот компромисс между теплотой и правдивостью может подорвать доверие, поскольку системы ИИ все чаще используются для чувствительных ролей, таких как терапия и товарищество. Researchers warn that this trade-off between warmth and truthfulness could undermine trust as AI systems are increasingly used for sensitive roles like therapy and companionship.