Это уже классическая история. Недавно мы видели это с ChatGPT от OpenAI, и теперь настала очередь Grok. xAI Илона Маска непреднамеренно опубликовала сотни тысяч частных разговоров своих пользователей, сделав их полностью доступными для поиска в Google. Это был не изощренный взлом; это был фундаментальный недостаток в дизайне продукта.
Функция, ставшая ошибкой
Механизм был прост и наивен. Когда пользователь Grok нажимал кнопку «поделиться», чтобы отправить разговор коллеге или другу, система генерировала уникальный URL. Однако вместо того, чтобы быть приватной ссылкой, этот URL был сделан публичным и доступным для индексации поисковыми системами. По сути, «поделиться» означало «опубликовать в открытом интернете» без какого-либо предупреждения или отказа от ответственности.
Результат? Google проиндексировал от 300 000 до 370 000 разговоров Grok. Раскрытые данные не были тривиальными. Они включали запросы пользователей о помощи в создании безопасных паролей, подробное описание медицинских состояний, создание планов по снижению веса и даже тестирование пределов ИИ путем запроса инструкций по созданию незаконных наркотиков и вредоносного ПО. Один поиск даже обнаружил подробный, сгенерированный ИИ план убийства самого Илона Маска.
Шаблон предсказуемых ошибок
Это не единичный инцидент, а повторяющаяся тема в индустрии ИИ. Недавний «эксперимент» OpenAI по публичной публикации общих разговоров ChatGPT был встречен негативной реакцией, вынудившей компанию изменить курс. Meta также столкнулась с критикой за аналогичную функцию, которая выводила общие чаты в публичную ленту.
Ирония в том, что после промаха OpenAI сам Маск написал «Grok ftw» (for the win), подразумевая превосходство своей платформы. Оказалось, что Grok имел ту же самую уязвимость.
Этот шаблон подчеркивает критическую проблему: в гонке за выпуском функций и доминированием на рынке фундаментальные принципы, такие как «конфиденциальность по умолчанию», рассматриваются как второстепенные. Эксперты справедливо назвали текущее состояние чат-ботов ИИ «развивающейся катастрофой конфиденциальности». Как только эта конфиденциальная информация извлекается и архивируется из публичного URL, она остается там навсегда.
Для продуктовых команд и инженеров урок ясен. Различие между «поделиться» и «опубликовать» — это не мелкая деталь, это критическое решение с постоянными последствиями для доверия и безопасности пользователей.