Глава OpenAI Сэм Альтман сказал вслух: мир должен принять, что какие-то плохие вещи будут происходить. На наш взгляд, это не только про ИИ, но и про то, как действовать, когда гара

Глава OpenAI Сэм Альтман сказал вслух: мир должен принять, что какие-то плохие вещи будут происходить. На наш взгляд, это не только про ИИ, но и про то, как действовать, когда гарантий нет. Что мы взяли из спора в подкасте Moonshots: 1. Ноль ошибок это неверная цель. В авиации правила написаны кровью. Цель в том, чтобы хорошего было на порядки больше. 2. Риск это не ручка, которую крутят до нуля. Это задача: ограничить права агента, проверять результат, записывать каждый шаг. 3. Ждать идеальную модель опасно. По словам инвестора Дэйва Блондена, мощности на пять лет уже забронированы, а окно, чтобы успеть, около шести месяцев. До пятницы, 23 октября, выберите одну задачу, которую агент может делать ночью, и запишите три ограничения: права, проверка, журнал. Смотреть разбор · читать статью · забрать чек-лист