Злоумышленники создают тенанты OpenAI, которые маскируются под легитимные компании, и приглашают сотрудников присоединиться. Судя по всему, цель — обманом заставить цели отправлять чувствительные корпоративные данные в чатах и проектах.
Специалисты Push Security обнаружили кампанию, которую они назвали «Poisoned Tenant» («Отравленный тенант»), после того как несколько сотрудников получили приглашения присоединиться к организации OpenAI с именем «Push Security Inc.». Сами приглашения были подлинными, так как пришли напрямую от OpenAI, однако тенант ChatGPT создал злоумышленник с помощью адресов Gmail, а не сама компания.
Письма с приглашениями отправлялись с настоящего адреса уведомлений OpenAI, noreply@tm.openai.com, проходили проверки подлинности email и выглядели точно так же, как обычное приглашение присоединиться к рабочему пространству ChatGPT организации.
Push Security сообщили BleepingComputer, что и другие их клиенты получали аналогичные приглашения, причём все пострадавшие работают в сфере кибербезопасности или технологий.
Управляемые злоумышленниками организации OpenAI
Согласно новому отчёту Push Security, приглашения были направлены конкретным сотрудникам на их рабочие адреса электронной почты, что указывает на то, что злоумышленники предварительно изучили штат компании перед началом кампании.
Хотя OpenAI добавляет предупреждение о том, что домен отправителя не совпадает с доменом компании получателя, это уведомление отображается всего одной строкой внутри легитимного письма-приглашения.
Чтобы лучше понять цель атаки, Люк Дженнингс, вице-президент по исследованиям и разработке в Push Security, принял одно из приглашений.
После принятия исследователь сразу же был добавлен в мошенническую организацию, которая выдавала себя за Push Security. В ней находился единственный аккаунт, контролируемый злоумышленником, с адресом Gmail, который действовал от имени гендиректора компании Адама Бейтмана.
Всем приглашённым сотрудникам были назначены права владельца в организации, что давало им административные привилегии над тенантом.
Имея административный доступ, они могли просматривать другие ожидающие приглашения и убедились, что никто из целевых сотрудников не присоединился к поддельной организации ChatGPT. Также выяснилось, что к биллинговому аккаунту организации уже была привязана кредитная карта Visa, что добавляло дополнительную убедительность.
Push Security рассказали, что проект был пуст, в нём не было ни чатов, ни проектов, поэтому цель атаки оставалась неясной.
Push Security полагает, что цель злоумышленников — убедить сотрудников использовать рабочее пространство ChatGPT как настоящую корпоративную платформу, после чего атакующие смогут собирать любую отправленную конфиденциальную информацию.
По мнению Push Security, злоумышленник, который просто хочет распространить мошеннический контент через доверенный email-канал, не назвал бы организацию именем цели, не изучал бы отдельных сотрудников и не привязывал бы кредитную карту.
В Push Security подчеркивают, что такие усилия окупаются лишь при реальном присоединении сотрудников и начале использования платформы, а на ИИ-платформе данные в промтах могут быть крайне чувствительными: исходный код, внутренние документы, данные клиентов, исследования безопасности, стратегические планы.
Кроме того, по мнению компании, привязка платёжного метода устраняет ещё один потенциальный признак мошенничества, позволяя приглашённым пользователям использовать премиум-функции без сомнений в легитимности организации.
Push Security отмечают, что эта кампания отражает более широкую тенденцию злоупотреблений легитимными механизмами приглашений и уведомлений, встроенными в SaaS-платформы.
В отличие от обычных фишинговых кампаний, эти приглашения исходят из инфраструктуры самой платформы и, будучи подлинными, с большей вероятностью обходят средства защиты электронной почты.
Чтобы снизить риск подобных атак, Push рекомендует обучать сотрудников проверять неожиданные приглашения в организации и отслеживать членство в SaaS-организациях.
Пока нет комментариев. Будьте первым!