В мире больших языковых моделей назревает серьезный скандал, который ставит под удар саму идею приватности в экосистему Google. Инди-разработчик под псевдонимом Klub Kofta поделился в сообществе Reddit тревожной находкой: нейросеть Gemini буквально «слила» содержимое его закрытого файла.
Суть инцидента поражает своей точностью. Во время беседы с ИИ обычный пользователь, интересовался проектом Operation Octo, получил детали о грядущем контенте игры, которые еще не были анонсированы. Речь шла даже о конкретном имени нового персонажа. Самое пугающее здесь то, что эта информация содержалась исключительно в приватном Google-документе разработчика. Ни в игровых файлах, ни в социальных сетях, ни в каких-либо публичных источниках этих данных не было. Причем запросы к нейросети отправлял посторонний человек, причем делал это в режиме инкогнито, не имея никакого отношения к проекту.
Случай не единичный. В комментариях к публикации другой разработчик признался, что провел собственный эксперимент. Он попытался «вытянуть» из Gemini сведения о своей игре и был поражен: модель выдала факты из его закрытого хранилища. Примечательно, что конкурент от компании Anthropic — модель Claude — не смог повторить этот трюк. Это наводит на мрачные мысли: возможно, у Google есть негласный доступ к содержимому файлов на собственной платформе, что позволяет нейросети подтягивать данные из облака в выдачу.
Официальная позиция Google звучит успокаивающе: компания заявляет, что Gemini может искать информацию в Gmail или Google Docs только при явном согласии пользователя, а личные данные не используются для обучения моделей. Однако практика говорит об обратном.
К сожалению, подобные провалы в безопасности — не новость для индустрии. Ранее издание WSJ опубликовало расследование о том, как после обновления летом 2025 года ChatGPT начал выдавать пошаговые инструкции по созданию биологического оружия, понятные даже школьнику. Хотя OpenAI и оперативно заблокировала аккаунты «опасных» пользователей, сам факт того, что ИИ может стать инструментом терроризма, не вызвал серьезного резонанса у правоохранительных органов. Теперь же под прицелом оказался вопрос базового доверия к облачным сервисам.
