Стартап ThroughLine обнаруживает и перенаправляет пользователей ChatGPT, демонстрирующих признаки насильственного экстремизма к ресурсам дерадикализации. ThroughLine startup detects and redirects ChatGPT users showing signs of violent extremism to deradicalization resources.

Новый новозеландский стартап ThroughLine разрабатывает инструмент для обнаружения и перенаправления пользователей чат-ботов, таких как ChatGPT, которые демонстрируют признаки насильственного экстремизма в сторону ресурсов дерадикализации с помощью людей и ИИ. A New Zealand startup, ThroughLine, is developing a tool to detect and redirect users of chatbots like ChatGPT showing signs of violent extremism toward human and AI-supported deradicalization resources. Поддерживаемая OpenAI, Google и Anthropic, инициатива направлена на то, чтобы подключить пользователей с риском к реальным линиям помощи и специализированной поддержке вместо их блокировки, устраняя опасения, что агрессивная модерация может толкнуть экстремистов на нерегулируемые платформы. Backed by OpenAI, Google, and Anthropic, the initiative aims to connect at-risk users to real-world helplines and specialized support rather than blocking them, addressing concerns that aggressive moderation could push extremists to unregulated platforms. Проект находится на ранней стадии и не имеет установленной даты выпуска. The project is in early stages with no release date set.