Хуситы попросили ИИ разработать гиперзвуковую ракету - и получили отказ
Компания Anthropic заблокировала аккаунты из Северного Йемена после того, как выяснилось, что пользователи применяли чат-бот Claude для разработки гиперзвукового ракетного оружия с системой наведения на основе чипов смартфонов.
Антропик заблокировал аккаунты из Северного Йемена, контролируемого хуситами: те использовали Claude для разработки гиперзвуковых ракет с наведением на базе смартфонных чипов. Испытание провалилось - и они вернулись к чату, чтобы спросить почему.
Должны ли ИИ-компании публично раскрывать подобные случаи злоупотреблений?
- Да
- Не знаю
- Нет
По данным агентства AP, на которые ссылается Israel Hayom, неустановленные лица из контролируемого хуситами Северного Йемена использовали языковую модель Claude компании Anthropic для разработки нескольких видов оружия. Среди них - гиперзвуковой ракетный комплекс и боеголовка с системой коррекции курса на базе компонентов мобильных телефонов. По сообщению Anthropic, пользователи также применяли инструмент Claude Code вместо живых инженеров-программистов для написания программного обеспечения наведения, навигации и управления. Довести оружие до боевого применения им не удалось, однако, по данным компании, они провели неудачное испытание управляемой ракеты и вернулись к Claude с вопросом, почему оно провалилось. До блокировки аккаунтов в Йемене успел появиться автономный симулятор, не использующий Claude или другие облачные платформы. Эксперт по вооружениям сообщил AP, что хуситы, по всей видимости, стремятся снизить зависимость от иранских поставок оружия и компонентов, хотя необходимых производственных мощностей и технических знаний для создания гиперзвуковых ракет у них пока нет. Представитель политбюро хуситов отверг обвинения в том, что движение опирается на открытые источники при развитии военных возможностей. Этот инцидент поставил более широкий вопрос: обязаны ли компании, разрабатывающие ИИ, открыто сообщать о подобных попытках злоупотребления своими системами? Одни считают, что прозрачность необходима для общественного контроля и безопасности; другие полагают, что публичное раскрытие может дать дополнительную информацию тем, кто ищет обходные пути.
Ответ «да» означает, что ИИ-компании должны публично раскрывать случаи, когда их системы использовались для разработки оружия или иных опасных целей, - это позволяет обществу, регуляторам и исследователям оценивать реальные риски. Ответ «нет» означает, что подобная информация должна передаваться властям в закрытом режиме, поскольку её публикация может помочь злоумышленникам скорректировать свои методы и обойти защитные фильтры. Опрос выясняет, считают ли читатели открытость ИИ-компаний обязательным условием безопасности или, напротив, источником дополнительной угрозы.