Каждое приглашение, введенное в чат-бот с искусственным интеллектом, каждое исправление, внесенное в его ответ, и каждый усовершенствованный рабочий процесс могут незаметно создавать ценность для организации, которая его использует. Именно эту озабоченность председатель и генеральный директор Microsoft Сатья Наделла поставил в центр новых дебатов, утверждая, что следующий рубеж развития ИИ — это не просто создание более умных моделей, а решение о том, кому принадлежат знания, полученные при их использовании.
В длинном посте на X (официально в Твиттере) Наделла представил то, что он называет «обратным информационным парадоксом», утверждая, что искусственный интеллект перевернул с ног на голову экономическую теорию, существовавшую десятилетия назад.
Опираясь на знаменитый «информационный парадокс» лауреата Нобелевской премии экономиста Кеннета Эрроу, он сказал, что ИИ перевернул уравнение: вместо того, чтобы продавцы рисковали потерять знания, чтобы совершить продажу, покупатели теперь рискуют выдать свои собственные знания, просто эффективно используя ИИ.
«По сути, вы платите за разведданные дважды: один раз деньгами, а второй раз чем-то еще более ценным: собственными знаниями, которые вы должны раскрыть, чтобы сделать эти сведения полезными», — написал Наделла.
Скрытый обмен ИИ
По словам Наделлы, предприятия не просто используют ИИ — они постоянно его обучают. Каждое сообщение, написанное сотрудниками, каждая оценка, которую они выполняют, и каждое исправление, которое они вносят, способствуют тому, что он называет «истощением разведданных».
Этот «исход» не является традиционными данными. Вместо этого он представляет собой институциональные ноу-хау, накопленные в результате ежедневного взаимодействия с системами искусственного интеллекта. Со временем, утверждает Наделла, эти следы могут стать бесценным конкурентным активом, который может постепенно принести пользу поставщикам ИИ, если у компаний не будет достаточного контроля над тем, как используется их взаимодействие.
«Чем лучше вы хотите, чтобы модель работала, тем больше у вас будет этих знаний», — отметил он.
От защиты данных к защите обучения
Наделла считает, что предприятиям необходимо переосмыслить то, что они обеспечивают. В эпоху облачных технологий организации сосредоточились на защите данных. В эпоху ИИ, утверждает он, более ценным активом является обучение — коллективная память, обратная связь, оценки, адаптированные модели и шаблоны принятия решений, которые развиваются по мере того, как сотрудники работают с ИИ.
Он сказал, что организациям нужна новая граница доверия, гарантирующая, что ничто — включая подсказки, следы взаимодействия или институциональные знания — не выйдет за пределы предприятия без явного согласия.
Наделла также утверждал, что предприятия должны сохранять за собой право использовать результаты, полученные с помощью моделей ИИ, для точной настройки или обучения своих собственных систем, что позволит им согласовать модели со своими операционными требованиями и требованиями подотчетности.
5 принципов корпоративного ИИ
Чтобы решить эту проблему, Наделла обозначил пять приоритетов для предприятий, внедряющих ИИ.
- Первый — это контроль, который предполагает сохранение владения памятью предприятия, оценками, обратной связью, решениями и институциональным контекстом.
- Во-вторых, это «Возможности», побуждающие компании создавать частные среды обучения, в которых модели ИИ можно обучать или настраивать без раскрытия собственных знаний.
- В-третьих, это выбор, позволяющий предприятиям оставаться независимыми от какой-либо отдельной модели ИИ за счет отделения уровня оркестрации от базовых моделей.
- Четвертый принцип — это стоимость, согласно которому организации могут наиболее эффективно комбинировать различные модели и рабочие процессы без ущерба для качества.
- Наконец, следует Compound, который Наделла описал как создание цикла непрерывного обучения, который позволяет инвестициям в ИИ со временем увеличивать свою ценность, сохраняя при этом эту ценность внутри предприятия.
Растущие дебаты по поводу владения ИИ
Наделла также поставил под сомнение то, что он считает дисбалансом в сегодняшней экосистеме искусственного интеллекта. Хотя он признал важность предоставления компаниям, занимающимся искусственным интеллектом, возможности обучать модели с использованием общедоступных данных, он утверждал, что предприятия заслуживают эквивалентных прав на знания, полученные в результате их собственного использования искусственного интеллекта.
Цитируя генерального директора Palantir Алекса Карпа, Наделла сказал, что предприятия все больше хотят контролировать свою вычислительную инфраструктуру, модели искусственного интеллекта, стек данных и конкурентные преимущества, а не видеть, как эти активы перетекают куда-то еще.
Его более широкое послание заключается в том, что ИИ меняет то, что накапливают организации. Возможно, данные были определяющим активом эпохи облаков, но обучение становится определяющим активом эпохи искусственного интеллекта. Поскольку компании стремятся развернуть все более эффективные системы искусственного интеллекта, Наделла утверждает, что защита этого накопленного интеллекта, а не только лежащих в его основе данных, может определить, кто получит долгосрочную ценность технологии.
