Руководство ИИ-корпораций США готовится к бунту человечества
Топ-менеджеры Anthropic, OpenAI и других компаний, работающих с искусственным интеллектом, в непубличном порядке прорабатывают сценарии общественного и политического бунта после катастрофического инцидента, связанного с ИИ. Об этом сообщает Axios. Данную информацию сообщает портал Московский Комсомолец.
По данным издания, руководители ожидают крупного происшествия — вероятнее всего, кибератаки, которая оставит людей без доступа к финансовым услугам, интернету, а возможно, и к электричеству с водой. Первый случай серьёзного реального ущерба от небезопасного ИИ настроит общество против технологии и её лидеров: гендиректора Anthropic Дарио Амодеи, главу OpenAI Сэма Альтмана и президента Трампа, который не спешит регулировать отрасль.
Сценарное планирование само по себе — обычная практика: Пентагон десятилетиями проводит военные игры. Однако многие ведущие исследователи и топ-менеджеры ИИ-компаний считают крупный инцидент неизбежным. Опрошенные Axios инсайдеры ждут его в ближайшие 6–12 месяцев. В OpenAI заявили, что проводят учения по готовности: команды обсуждают разные сценарии, хотя компания не считает их неизбежными. Anthropic от комментариев отказалась.
Примером вреда, который способен причинить один человек, издание называет недавнюю кампанию против финансовых организаций Южной Кореи, включая сообщения о взломе двух банков. По данным CrowdStrike, хакер из Китая использовал ИИ-инструменты на основе китайских моделей, в том числе DeepSeek, чтобы похитить данные десятков тысяч клиентов банков, а Claude Code применял для поиска площадок, где можно продать украденное.
Планировщики из ИИ-компаний исходят из того, что после промежуточных выборов демократы быстро попытаются остановить развитие ИИ, но столкнутся с трудностями. Конгресс далёк от ИИ-революции, мировая экономика тесно связана со строительством ИИ-инфраструктуры, а модели с открытыми весами уже можно свободно скачать и использовать во вред. Большинство специалистов по кибербезопасности считают, что справиться с этим можно только с помощью ИИ против ИИ.
Подготовка включает проверку худших сценариев и прежде всего просвещение конгрессменов. Руководители понимают, что сейчас регулирование не пройдёт, но хотят повлиять на законы и политику, к которым власти обратятся после первой катастрофы. Среди самых жёстких инициатив демократов — запрет суперинтеллекта или пауза в разработке продвинутого ИИ. Обязательный «рубильник» для мощных систем поддерживают обе партии и отчасти сама индустрия, хотя эксперты сомневаются, что можно отключить все ИИ-системы.
Впрочем, в реальном кризисе Вашингтон способен отложить партийные споры: помощник одного из демократов напомнил о сотрудничестве во время COVID и финансового кризиса 2008 года.
