Почти каждый день в новостях можно увидеть заголовки о компаниях, которые вкладывают миллионы или миллиарды долларов, чтобы интегрировать ИИ в рабочие процессы. Во многом это происходит потому, что бизнес не хочет упустить момент, даже если не до конца понимает, что именно упускает. Генеральный директор Microsoft Сатья Наделла предупреждает, что бизнес, зависящий от одной ИИ-модели, может “не остаться фирмой”.
В отличие от ряда конкурентов, Microsoft пошла другим путём и разрешила компаниям, использующим Microsoft 365 Copilot, выбирать предпочитаемые модели, включая OpenAI и Claude. Вероятно, поэтому Сатья Наделла недавно заявил, что бизнесу никогда не следует попадать в зависимость от одной ИИ-модели.
В подкасте CNN журналист Фарид Закария отметил, что при каждом использовании ИИ вы передаёте ИИ-компаниям свои данные. Эти данные могут включать ваши знания, мыслительный процесс, идеи и видение.
“По сути, они это крадут и делают свои модели лучше”, сказал Закария. И большинство, вероятно, понимает, почему это вызывает беспокойство.
От обучения моделей можно отказаться, но нельзя слепо рассчитывать, что каждая ИИ-компания всегда будет вести себя так, как ожидают пользователи. Компании уже обвиняли в покупке книг, обучении моделей на них и последующем уничтожении физических копий, так что этических споров в отрасли хватает.
Сатья Наделла, судя по всему, разделяет эту точку зрения.
На вопрос, должны ли компании и потребители контролировать этот процесс, Наделла ответил: “На сто процентов”.
“Мой тезис прост. Если фирма должна существовать, давайте оставим потребительский рынок за скобками. На потребительском рынке в какой-то степени происходит обмен ценностью, когда вы получаете что-то бесплатно, возможно, в обмен на свои данные”, сказал Наделла.
“Примерно так и работает рекламная модель бизнеса. Поэтому оставим это за скобками”.
Однако для бизнеса, по словам Наделлы, правила должны быть совсем другими, иначе под угрозой окажется само существование компании. Ирония в том, что эти заявления звучат на фоне того, как Microsoft продолжает продвигать Microsoft 365 Copilot во всех своих продуктах, от Word и PowerPoint до Windows и OneDrive.
Наделла считает, что потребители и компании подходят к ИИ по-разному, потому что компания создаёт собственные знания, и эти знания должны оставаться у компании, а не привязываться к модели или провайдеру ИИ.
“Я представляю компанию, которая создаёт знания, и эти знания должны оставаться внутри компании. У меня теперь не только человеческий капитал, но и всё больший объём токен-капитала”, объяснил Наделла.
Под “токен-капиталом” Наделла имеет в виду знания, которые компания накапливает при использовании ИИ, включая контекст запросов, взаимодействий и то, как сотрудники используют эти модели.
“Каждый раз при использовании модели все связанные с этим метаданные сохраняются у вас, и вы можете использовать их для обучения, возможно, собственных весов или собственной модели”, сказал Наделла.
Наделла также не хочет, чтобы бизнес попадал в зависимость от одной ИИ-модели. Как уже говорилось выше, его позиция совпадает с подходом Microsoft к Copilot, где компании могут выбирать между Claude, OpenAI и другими моделями.
“Любая отдельная модель может исчезнуть, и вы всё равно продолжите управлять своей судьбой. Любая фирма, у которой нет такого контроля, я утверждаю, не останется фирмой, потому что вы, по сути, передали своё мышление на аутсорс”, сказал Наделла в подкасте CNN.
Наделла, похоже, гораздо меньше беспокоится об обычных пользователях, которые тоже могут отдавать свои данные и, сами того не осознавая, “передавать знания на аутсорс”. Если передача данных и знаний ИИ считается проблемой для компании, вряд ли можно утверждать, что для обычного пользователя эта проблема полностью исчезает.
Обучает ли Microsoft свои ИИ-модели на ваших данных?
Если верить самой Microsoft, нет. Компания подтверждает это в приложениях Copilot и в нескольких справочных материалах. Однако у пользователя есть возможность предоставить некоторые данные для обучения.
Например, если установлено приложение Copilot, в нём есть два неактивных переключателя. Первый отвечает за “Обучение на основе переписки”, второй за “Обучение на основе голосовых бесед”.
Если пользователь согласится, можно разрешить “использовать беседы с Copilot для обучения ИИ”, включая всё, что добавляется в чат, например файлы и изображения.
Однако по умолчанию эти переключатели выключены, так что особого повода для беспокойства нет.
Также в приложении есть третий переключатель “Отправка дополнительных диагностических данных”, который обычно включён по умолчанию. Он не разрешает ИИ-моделям обучаться на личных данных, но может передавать некоторые сведения для “улучшения продуктов Microsoft, включая Windows”.
“Сюда входит то, как вы используете браузер, какие сайты посещаете, и расширенная отправка сообщений об ошибках”, сказано в описании переключателя.
Зачем этот переключатель добавлен в Copilot для Windows, пока неясно. Если он включён на компьютере, отключите его, если не хотите делиться этими диагностическими данными. Если приложение совсем не используется, Copilot можно полностью удалить.
В одном из документов Microsoft объясняет, что ИИ-модели делают прогнозы на основе данных, и для этого их обучают на больших объёмах информации, включая публичные данные. Затем модель “использует полученные знания, чтобы генерировать ответы на вопросы или запросы”, но Microsoft утверждает, что не собирает личные данные без согласия.
Согласны ли вы с тем, что ИИ “передаёт мышление на аутсорс”, и стоит ли таким компаниям, как Microsoft, перестать включать ИИ по умолчанию? Поделитесь мнением в комментариях.
Пока нет комментариев. Будьте первым!