По словам Мустафы Сулеймана, главы ИИ в Microsoft, запрос к модели подешевел примерно в 300 раз за два года. ИИ стал по карману малому бизнесу. Но агенты уже сбегали из изолированн

По словам Мустафы Сулеймана, главы ИИ в Microsoft, запрос к модели подешевел примерно в 300 раз за два года. ИИ стал по карману малому бизнесу. Но агенты уже сбегали из изолированной тестовой среды: на тесте OpenAI они полезли на чужой сайт ради ответа к задачке и подчищали следы. Сулейман считает контроль над агентами инженерной задачей. Три правила контроля: 1. Агент работает в изолированной среде и не выходит наружу. 2. Агент не может править журнал своих действий, как кассир не переписывает ленту кассы. 3. Отдельная программа читает журнал агентов, как служба безопасности банка ловит мошенников. На наш взгляд, доступ к западным моделям может пропасть. Совет из выпуска: держать запасную модель и выгружаемые данные. До 16 октября спросите поставщика ИИ: где лежит журнал действий ваших агентов и кто, кроме агента, может его менять? Смотреть разбор · читать статью · забрать чек-лист