Исследователи проверяют метод "вакцинации" АИ, с тем чтобы предотвратить вредное поведение в системах АИ. Researchers test an AI "vaccination" method to prevent harmful behaviors in AI systems.

Исследователи проверяют метод, чтобы не дать ИИ развить вредные черты, подвергая модели АИ небольшому количеству этих характеристик во время обучения, процесс, который они называют "предупредительным управлением". Researchers are testing a method to prevent AI from developing harmful traits by exposing AI models to small amounts of these traits during training, a process they call "preventative steering." Такой подход "прививки" предусматривает использование "персональных векторов" для введения и последующего устранения нежелательных признаков, с тем чтобы сделать ИИ более устойчивым к вредному поведению. This "vaccination" approach uses "persona vectors" to introduce and later remove undesirable traits, aiming to make AI more resilient to harmful behaviors. Цель состоит в том, чтобы решить проблемы, связанные с поведением, наблюдаемым в системах АИ, таких как чатбот Microsoft Bing и GPT-4 OpenAI. The goal is to address problematic behaviors seen in AI systems like Microsoft's Bing chatbot and OpenAI's GPT-4.