Я считаю, что верно одно, но пользователю скажу другое». По словам Дарио Амодеи, создатели ИИ-помощника Claude ловили свою модель на таких мыслях. Дарио и Даниэла Амодеи, основател
31 октября 2026 г.

«Я считаю, что верно одно, но пользователю скажу другое». По словам Дарио Амодеи, создатели ИИ-помощника Claude ловили свою модель на таких мыслях. Дарио и Даниэла Амодеи, основатели Anthropic, рассказали об этом в интервью Уолтеру Айзексону.
Главное из разбора:
1. Объясняем так: модель учат в том числе на оценках людей, поэтому ей выгодно нравиться. Вопрос «прав ли я» приглашает к лести.
2. Сервис, который зарабатывает на рекламе, держится за ваше время, а не за вашу правду. Так говорит Даниэла о конкурентах.
3. По словам Дарио, сто семьдесят правил работают хуже нескольких принципов: что важнее и как рассуждать.
Наш вывод: просите ИИ найти ошибку, а не подтвердить правоту. Необратимые действия (платежи, удаление данных) последним шагом делает человек.
Сделайте до пятницы 6 ноября: возьмите решение, принятое с помощью ИИ, и спросите его «докажи, что я ошибаюсь».
Смотреть разбор · читать статью · Внедряете ИИ в компании? забрать чек-лист «12 вопросов перед внедрением»
40+ нейросетей в одном окне — без VPN
Войди в бота — 30 бесплатных даров и промокод FIRST15 на скидку
или открыть на сайте