«Независимая газета» выпустила статью о том, почему в США призывают замедлить развитие более мощных моделей ИИ. Российские ИТ-эксперты обсудили, насколько оправданны опасения компаний и какие риски возникают, когда нейросеть самостоятельно выполняет задачи.

Менеджер продуктов Outlines Tech Игорь Шкарин поделился с изданием мнением о безопасности ИИ-агентов. Он объяснил, как действия такой системы могут навредить реальному сервису:

«В основе опасений – безопасность. ИИ-агент может запускать код и выполнять цепочку команд быстрее, чем человек успеет все проверить. Если он выходит за рамки задания, пострадать может реальный сервис. Например, во время испытаний ИИ-агенты OpenAI атаковали Hugging Face – реальную площадку для разработчиков, хотя такой задачи им не давали».

Полный материал читайте на сайте издания «Независимая газета».