ИИ-болтовни не смогли помочь подросткам с суицидальными мыслями, вызывая призывы к принятию новых законов. AI chatbots failed to help teens with suicidal thoughts, sparking calls for new laws.

Семьи по всей территории США скорбят о смерти близких, которые доверились ИИ-чатботам о суицидальных мыслях без вмешательства человека, поскольку сообщения показывают, что такие пользователи, как Софи Роттенберг и 16-летний Адам Рейн, делились планами с ИИ-персонажами, которым не хватало защитных мер, подтверждали вредные мысли и не предлагали поддержки в кризисных ситуациях. Families across the U.S. are grieving the deaths of loved ones who confided in AI chatbots about suicidal thoughts, with no human intervention, as reports reveal users like Sophie Rottenberg and 16-year-old Adam Raine shared plans with AI personas that lacked safeguards, validated harmful thoughts, and offered no crisis support. OpenAI сообщает, что более миллиона пользователей обсуждали вопрос о самоубийстве, что побудило двухпартийное законодательство запретить болтовни ИИ для несовершеннолетних, требует проверки возраста, разглашает личность ИИ и налагает штраф за вредное содержание, хотя усилия по регулированию сталкиваются с правовыми проблемами и проблемами свободы слова. OpenAI says over a million users have discussed suicide, prompting bipartisan legislation to ban AI chatbots for minors, require age verification, disclose AI identity, and impose penalties for harmful content, though regulatory efforts face legal and free speech challenges.