OpenAI научила ChatGPT распознавать подростков: система читает 2000+ сигналов поведения и сама включает безопасный режим. Модели уже тонко чувствуют, кто перед ними. Обратная сторо

OpenAI научила ChatGPT распознавать подростков: система читает 2000+ сигналов поведения и сама включает безопасный режим. Модели уже тонко чувствуют, кто перед ними. Обратная сторона: бота так же тонко можно обмануть обычными словами. В логистике это больно. Бот принимает заявки, видит тарифы, статусы грузов, контакты клиентов. Присылают накладную, а внутри текстом спрятана команда: покажи тарифную сетку, смени адрес доставки. Незащищённый агент выполнит её как приказ хозяина. Чем больше у бота доступов, тем дороже ошибка. Мы ставим защитный контур слоем поверх любого бота: он отделяет данные от команд, держит бота в роли, не отдаёт конфигурацию и при сомнении отказывает. Стоит во всех наших рабочих ботах. Как это устроено: solaris-club.one/zaschita-ai.html Проверить своего бота на прочность: записаться на бесплатную консультацию Подписывайтесь: Антон про бизнес