Австралийские исследователи создали Silverer, инструмент, который отравляет изображения, чтобы заблокировать злоупотребление IA, и сейчас тестируют с AFP. Australian researchers created Silverer, a tool that poisons images to block AI abuse, now testing with AFP.

Австралийские исследователи разработали прототип инструмента под названием < < Сильвер > > для борьбы с материалами насилия в отношении детей, полученными с помощью АИ, и глубоко поддельными аферами, используя отравление данными для защиты личных изображений. Australian researchers have developed a prototype tool called Silverer to fight AI-generated child abuse material and deepfake scams by using data poisoning to protect personal images. Созданный AFP и Monash Universitys AiLECS Lab, инструмент меняет фотографии до того, как они делятся онлайн, встраивая невидимые схемы, которые путают модели AI. Created by the AFP and Monash University’s AiLECS Lab, the tool subtly alters photos before they’re shared online, embedding invisible patterns that confuse AI models. Когда преступники пытаются использовать эти изображения для обучения ИИ, результаты размываются или искажаются. When criminals try to use these images to train AI, the results are blurry or distorted. В настоящее время в рамках тестирования с АФП этот инструмент направлен на создание барьеров для злонамеренного использования АИ и в конечном итоге может быть доступен для общественности в целях содействия защите цифровых идентификационных данных. Currently in testing with the AFP, the tool aims to create barriers to malicious AI use and may eventually be available to the public to help protect digital identities.