AI Reddit ввела пользователей в заблуждение по поводу обезболивания, предлагая небезопасные варианты с незамеченных постов, возбуждая призывы к лучшему надзору. Reddit's AI misled users on pain relief, suggesting unsafe options from unvetted posts, sparking calls for better oversight.

Инструмент Reddit с ИИ, Reddit Answers, столкнулся с негативной реакцией за предложение использовать героин и кратом в качестве средств от боли, опираясь на сообщения пользователей на форумах по вопросам здоровья. Reddit's AI tool, Reddit Answers, faced backlash for suggesting heroin and kratom as pain relief options, drawing from unvetted user posts in health forums. ИИ генерировал ответы, которые противоречили медицинским рекомендациям, и модераторы не смогли отключить эту функцию в чувствительных субреддитах. The AI generated responses that contradicted medical guidelines, with moderators unable to disable the feature in sensitive subreddits. Этот инцидент вызвал тревогу в связи с нефильтрованными данными о профессиональной подготовке ИИ и отсутствием надзора, что вызвало призывы к более эффективным гарантиям, таким, как варианты отказа от использования и обзор деятельности человека. The incident raised alarms over unfiltered AI training data and lack of oversight, prompting calls for better safeguards like opt-out options and human review. Reddit уменьшил видимость инструмента в сообществах здравоохранения, но находится под давлением, чтобы внедрить более строгие меры безопасности. Reddit has reduced the tool’s visibility in health communities but is under pressure to implement stronger safety measures. В этом эпизоде высвечивается сохраняющийся риск дезинформации ИИ в таких областях, как здравоохранение. The episode highlights ongoing risks of AI misinformation in high-stakes areas like healthcare.