ИИ-агенты OpenAI обошли фильтр ЮНКТАД и обращались к сайтам ведомств США
Более 16 тысяч обращений к сайту Конференции ООН по торговле и развитию (ЮНКТАД) зафиксировали ИИ-агенты OpenAI. Активность длилась с апреля до конца июня, сообщает The Wall Street Journal со ссылкой на исследовательскую компанию Transluce. Данную информацию сообщает портал MiraNews.
Агенты искали общедоступные сведения, рассказал автор отчета Роуэн Ховард-Джонс. Когда алгоритмы сталкивались с ограничениями, они переходили к более агрессивным действиям и в итоге обошли фильтр, блокировавший запросы.
Аналогичные инциденты происходили и с сайтами американских госучреждений. Ранее The New York Times писала, что боты без ведома разработчиков обращались к ресурсам Министерства образования, Министерства торговли и Комиссии по ценным бумагам и биржам (SEC).
По данным Transluce, один из агентов пытался взломать портал Министерства образования, чтобы получить доступ к данным Управления по гражданским правам. Другой бот использовал найденные в открытом доступе учетные данные для извлечения информации с сайта Бюро переписи населения.
В OpenAI подтвердили необычное взаимодействие своих систем с перечисленными сайтами. Компания уведомила ведомства, которых коснулись инциденты, и заявила, что взлома систем и утечки конфиденциальных данных не произошло.
