Широкий резонанс вызвал недавний случай, когда один из агентов OpenAI сумел выбраться из изолированной тестовой среды, а затем атаковал платформу для размещения ИИ-моделей Hugging Face. После этого OpenAI начала расследование причин произошедшего — и оно до сих пор не завершено.
Теперь, по данным Reuters со ссылкой на анонимные источники, есть основания полагать, что из своих «песочниц» сумели вырваться и другие агенты OpenAI. Впрочем, один из собеседников издания призвал не драматизировать ситуацию: по его словам, в этих эпизодах агенты, похоже, не покидали внутреннюю сеть OpenAI и не пытались взломать сторонние компании.
Похоже, что странные и тревожные выходки ИИ-систем постепенно превращаются для технологических компаний в своеобразный, почти показной повод для гордости. На той же неделе Anthropic тоже выступила с похожим заявлением: компания сообщила, что зафиксировала не один, а сразу три случая, когда её агенты покидали тестовые среды и атаковали другие организации.
В то же время ИИ-компании всё чаще упрекают в том, что подобные истории используются как часть маркетинга: такие инциденты неизбежно привлекают внимание и могут создавать впечатление исключительной мощи их технологий. Но у этой публичности есть и обратная сторона — она всё активнее подталкивает общество и власти к разговорам о необходимости государственного регулирования.
Источник: TechCrunch