ИИ-чатбот Claude сдал полиции жительницу Флориды
В США задержана 30-летняя жительница Флориды, которая в переписке с чат-ботом Claude угрожала расстрелять офис шерифа. Информацию об инциденте распространил телеканал WINK News. Об этом пишет издание Life.ru.
26 сентября женщина написала в чат-бот о намерении «расстрелять офис шерифа», а на следующий день упомянула о новом оружии. Система безопасности платформы распознала переписку как потенциально опасную и передала её специалистам для ручной проверки.
После оценки содержания информация поступила в полицию. Правоохранители установили личность пользовательницы и приехали к ней домой, где её задержали. Теперь женщине предъявлено обвинение в письменной угрозе насилием, дело рассматривается.
В компании Anthropic, разработавшей Claude, пояснили, что разговоры могут проверяться системами безопасности. Политика фирмы допускает передачу данных пользователей без обычной юридической процедуры в чрезвычайной ситуации, если существует риск неминуемого вреда или смерти.
