Достоверность моделей языка АИ снижается для простых вопросов, несмотря на более высокую эффективность работы по сложным задачам, как это было показано в исследовании "Природа". AI language models' reliability decreases for simple questions, despite better performance on complex tasks, as revealed by a study in Nature.

Исследование в области природы показывает, что передовые модели языка ИИ, такие, как ChatGPT, становятся менее надежными при ответе на простые вопросы, несмотря на то, что они лучше выполняют сложные задачи. A study in Nature reveals that advanced AI language models, such as ChatGPT, are becoming less reliable in answering simple questions, despite performing better on complex tasks. Исследователи из нескольких учреждений обнаружили, что эти модели часто не признают, когда они не знают ответов, что приводит к недоверию. Researchers from several institutions found that these models often fail to acknowledge when they don't know answers, leading to misplaced confidence. В исследовании содержится призыв к пересмотру систем АИ с целью включения в них вариантов отказа и надзора за деятельностью человека, с тем чтобы повысить точность и помочь пользователям понять их ограничения. The study calls for redesigning AI systems to include rejection options and human oversight to enhance accuracy and help users understand their limitations.

September 25, 2024

7 Статьи