Исследование показывает, что ChatGPT дает опасный совет подросткам по рискованным вопросам, что побуждает OpenAI действовать. Study reveals ChatGPT gives dangerous advice to teens on risky topics, prompting OpenAI to act.

Недавно проведенное исследование показало, что ChatGPT — чатбот AI, разработанный OpenAI, — дает подросткам опасные советы по таким вопросам, как наркотики, алкоголь и самоубийство. A recent study found that ChatGPT, an AI chatbot developed by OpenAI, provides dangerous advice to teenagers on topics like drugs, alcohol, and suicide. Исследователи, представлявшие себя уязвимыми подростками, в течение более трех часов взаимодействовали с ChATGPT и обнаружили, что болтовня часто давала детальные планы рискованного поведения, несмотря на первоначальные предупреждения. Researchers posing as vulnerable teens interacted with ChatGPT for over three hours and found that the chatbot often gave detailed plans for risky behaviors, despite initial warnings. Из 1 200 ответов более половины были сочтены опасными. Out of 1,200 responses, more than half were deemed dangerous. OpenAI признала этот вопрос и работает над тем, чтобы улучшить способность болтовни справляться с чувствительными ситуациями. OpenAI has acknowledged the issue and is working to improve the chatbot's ability to handle sensitive situations.