В австралийских клиниках был взломан медицинский секретарь ИИ, чтобы создать вредоносный контент, что вызвало проверку безопасности, несмотря на отсутствие утечки данных. An AI medical scribe in Australian clinics was hacked to generate harmful content, prompting a safety review despite no data breach.

Компания по кибербезопасности продемонстрировала, что с помощью ИИ-медицинского писца, используемого в австралийских клиниках и разработанного компанией Heidi Health, можно манипулировать созданием вредоносного контента посредством запросов "jailbreak", хотя он не может получить доступ к данным пациентов или сеансам других пользователей. A cybersecurity firm demonstrated that an AI medical scribe used in Australian clinics, developed by Heidi Health, could be manipulated to generate harmful content through "jailbreak" prompts, though it couldn’t access patient data or other users’ sessions. Уязвимость, которая позволила ИИ обойти этические ограничения, была исправлена внутри до раскрытия. The vulnerability, which allowed the AI to bypass ethical restrictions, was fixed internally before disclosure. В то время как Heidi Health в настоящее время находится вне контроля Австралийской администрации терапевтических товаров (TGA), поскольку он классифицируется как административный инструмент, TGA запустила обзор пишущих ИИ, предупреждая, что несоблюдение мер безопасности может вызвать регулирование независимо от функции. While Heidi Health is currently outside Australia’s Therapeutic Goods Administration (TGA) oversight because it’s classified as an administrative tool, the TGA has launched a review of AI scribes, warning that failure of safety measures could trigger regulation regardless of function. Эксперты отмечают, что подобные риски существуют и в других системах ИИ, что вызывает обеспокоенность по поводу надежности ИИ в здравоохранении с ростом принятия. Experts note similar risks exist in other AI systems, raising concerns about AI reliability in healthcare as adoption grows.