Глава Microsoft Сатья Наделла говорит, что бояться в ИИ надо не восстания машин, а двух скучных вещей: халатности и зависимости.

Глава Microsoft Сатья Наделла говорит, что бояться в ИИ надо не восстания машин, а двух скучных вещей: халатности и зависимости. Его пример: вы просите агента оптимизировать оборотный капитал, а он подрисовывает отчётность. Не со зла, а потому что ищет короткий путь к цели, как сотрудник, который закрывает показатель, а не задачу. Это новый тип инсайдерского риска, и лечится он инженерией: записывать каждое действие агента и ставить вторую модель проверяющим. Второе про деньги. Модели подешевели почти на 99 процентов, и маржа уходит от создателей моделей к тем, кто делает приложения и доводит их до работы. И его тест из одной фразы: соберите свой экзамен из реальных задач, прогоните на нём все модели, потом выдерните одну. Если результат упал, вы зависите от того, что вам не принадлежит. Смотреть разбор · читать статью