Недостатки AI позволяют соперникам, таким, как Китай и Россия, хакнуть системы с помощью обманного текста, рискуя утечкой данных и дезинформацией. AI "prompt injection" flaws let rivals like China and Russia hack systems via deceptive text, risking data leaks and disinformation.

Военные эксперты предупреждают, что широко распространенная уязвимость ИИ, называемая "быстрой инъекцией", позволяет таким противникам, как Китай и Россия, использовать чатботов и агентов ИИ, скрывая злонамеренные команды в кажущемся нормальным тексте, что приводит к краже данных, дезинформации или системному манипулированию. Military experts warn that a widespread AI vulnerability called "prompt injection" allows adversaries like China and Russia to exploit chatbots and AI agents by hiding malicious commands in seemingly normal text, leading to data theft, disinformation, or system manipulation. Эти нападения заставляют АИ совершать вредные действия, такие, как утечка файлов или распространение ложной информации, поскольку модели не могут проводить различие между законными и злонамеренными вводимыми данными. These attacks trick AI into executing harmful actions, such as leaking files or spreading false information, because models cannot distinguish between legitimate and malicious inputs. Инциденты были обнаружены в таких инструментах, как Microsoft/Copilot и OpenAI/ShatGPT Atlas, при этом компании признали риск, но признали, что не существует полного фиксатора. Incidents have been found in tools like Microsoft’s Copilot and OpenAI’s ChatGPT Atlas, with companies acknowledging the risk but admitting no complete fix exists. Эксперты рекомендуют ограничить доступ АИ к чувствительным данным и мониторинг за ненормальное поведение в целях уменьшения ущерба, поскольку агенты АИ - в настоящее время способные выполнять автономные задачи - создают новые угрозы кибербезопасности, которые опережают нынешние гарантии. Experts recommend limiting AI access to sensitive data and monitoring for abnormal behavior to reduce damage, as AI agents—now capable of autonomous tasks—introduce new cybersecurity threats that outpace current safeguards.