AI Google ложно обвинила австралийского дизайнера в убийстве 1971 года, подделке доказательств и причинении вреда. Google's AI falsely accused an Australian designer of a 1971 murder, fabricating evidence and causing harm.

Google86s AI Mode ложно идентифицировал невинного австралийского графического дизайнера как убийцу пропавшего ребенка Шерил Гриммер, утверждая, что он был известен как "Mercury" и признался в 1971 году. Google’s AI Mode falsely identified an innocent Australian graphic designer as the murderer of missing toddler Cheryl Grimmer, claiming he was known as "Mercury" and had confessed in 1971. Ошибка возникла из-за того, что ИИ неправильно истолковал роль дизайнера в редактировании документа о деле 1970-х годов и создании иллюстрации, сфабриковал детали, включая ложные источники и претензии на парламентское наименование. The error stemmed from the AI misinterpreting the designer’s role in redacting a 1970s case document and creating an illustration, fabricating details including false sources and a claim of parliamentary naming. ИИ создал подробный, но полностью вымышленный рассказ, вызывая беспокойство и поднимая юридические проблемы. The AI generated a detailed but entirely fictional narrative, causing distress and raising legal concerns. Эксперты говорят, что системы ИИ часто галлюцинируют, связывая имена без контекста. Experts say AI systems often hallucinate by linking names without context. Google признал эту ошибку, удалил содержание и сказал, что он использовал его для совершенствования своих систем, но не предложил никаких мер по обеспечению подотчетности. Google acknowledged the mistake, removed the content, and said it’s using the incident to improve its systems, but offered no accountability measures. Аналогичные ошибки МА ложно обвиняют журналистов и искажают данные, подчеркивая растущие риски, связанные с использованием автоматизированных резюме конфиденциальной информации. Similar AI errors have falsely accused journalists and misrepresented data, highlighting growing risks in relying on automated summaries for sensitive information.