AI ошибочно опознал чипсы как пистолет, импровизировав ответ полиции; подросток не пострадал, система остановилась. AI misidentified chips as gun, triggering police response; teen unharmed, system paused.

Полиция Балтимора опубликовала кадры с телекамеры подростка, задержанного после того, как система ИИ неправильно идентифицировала мешок картофельных чипсов как огнестрельное оружие. Baltimore police released body camera footage of a teenage individual detained after an AI system incorrectly identified a bag of potato chips as a firearm. Неправильная идентификация вызвала эскалацию, когда офицеры забирали оружие, прежде чем осознать ошибку. The misidentification triggered an escalation, with officers drawing weapons before realizing the error. Инструмент АИ все еще проходит испытание и не полностью утвержден для использования. The AI tool was still in testing and not fully approved for use. Хотя подросток не пострадал и был освобожден, этот инцидент усилил обеспокоенность по поводу надежности, предвзятости и надзора со стороны АИ в полиции. Though the teen was unharmed and released, the incident has intensified concerns about AI reliability, bias, and oversight in policing. Департамент приостановил развертывание системы и начал пересмотр. The department has paused the system’s deployment and launched a review.