Инди-разработчик под ником Klub Kofta обнаружил уязвимость нейросети Google Gemini. В Reddit он рассказал, что модель выдала пользователю информацию из его закрытого документа.
Пользователь расспрашивал нейросеть о неанонсированном контенте игры Operation Octo. Модель назвала точное название персонажа и другие детали, которые ранее нигде не публиковались. При этом эти сведения хранились только во внутреннем документе Google Docs — они не попадали ни в файлы игры, ни в соцсети или любые публичные источники.
Разработчик уточнил: запрос к поисковику отправлял посторонний человек без доступа к документу, причём делал это через режим «инкогнито». То есть автор сам не обращался с этим вопросом к модели.
Другой разработчик подтвердил эту проблему на своем примере. Он провел аналогичный эксперимент со своей игрой и выяснил, что Gemini выдает факты из закрытых документов, даже если доступ к ним есть только у владельца. Нейросеть от компании Anthropic (Claude) при тех же условиях выдать такую информацию не смогла.
Автор комментария предположил, что проблема связана с тем, как устроена экосистема Google: ее нейросеть может иметь прямой доступ ко всем файлам пользователя внутри платформы.
В официальной документации Google указано, что Gemini способна искать информацию в Gmail, документах и облачном хранилище, но для этого пользователь должен явно разрешить ей это делать. Кроме того, компания утверждает, что личные данные пользователей не используются для обучения моделей.
Источник: sport24.ru
Комментарии