Google обнаруживает более 100 000 попыток украсть свои знания, полученные от AI chatbot, с помощью атаки. Google detects over 100,000 attempts to steal its AI chatbot's knowledge through probing attacks.

Google сообщает о более чем 100 000 автоматических запросов в масштабной попытке реверсировать свой чат-бот Gemini, в рамках растущих атак "дистилляции" или "выделения моделей". Google reports over 100,000 automated prompts in a large-scale attempt to reverse-engineer its AI chatbot Gemini, part of growing "distillation" or "model extraction" attacks. Эти усилия, которые, по мнению частных компаний и исследователей, направлены на то, чтобы украсть запатентованные знания, исследуя, как ИИ объясняет проблемы. These efforts, believed driven by private companies and researchers, aim to steal proprietary knowledge by probing how the AI reasons through problems. В то время как Google имеет защиту, общедоступные модели остаются уязвимыми, и эксперты предупреждают, что подобные угрозы могут распространяться на более мелкие фирмы с использованием традиционных систем АИ, обученных чувствительным данным. While Google has defenses, publicly accessible models remain vulnerable, and experts warn similar threats could spread to smaller firms using custom AI systems trained on sensitive data. Эти нападения, как представляется, носят глобальный характер, однако виновные в них не были опознаны. The attacks appear global, but perpetrators have not been identified.