Пользователи обнаружили, что в результатах некоторых поисковых систем, в том числе Google и Bing, начали появляться ссылки на чужие переписки с ChatGPT. Это стало возможно после фильтрации результатов поиска, сообщает TechCrunch.
Некоторые личные разговоры пользователей с ChatGPT неожиданно стали публичными. Оказалось, что, если ввести в Google, Bing или другом поисковике запрос site:chatgpt.com/share, можно было наткнуться на чужие диалоги с искусственным интеллектом (ИИ). Часть из них — безобидные: люди просили советы по ремонту ванной, по астрофизике или рецептам. Но встречались и случаи куда более личные или неловкие.
Так, один пользователь просил чат-бот переписать резюме под конкретную вакансию — и по деталям в чате журналисты легко нашли его профиль на LinkedIn (и заметили, что работу он, судя по всему, не получил). Кто-то задавал вопросы в духе форумов инцелов, другой — провоцировал ИИ, спрашивая, можно ли разогревать вилку в микроволновке (спойлер: нельзя). Все закончилось тем, что ChatGPT сгенерировал саркастическое руководство: «Как пользоваться микроволновкой и не вызвать сатану».
По умолчанию ChatGPT не делает беседы общедоступными. Чтобы получить ссылку chatgpt.com/share, пользователь должен был сначала нажать кнопку «Поделиться», а затем вручную создать ссылку. После этого появлялась опция — сделать ссылку доступной для поиска в интернете или нет. Имя пользователя, настройки и последующие сообщения в такой переписке сохранялись в тайне.
Проблема в том, что многие пользователи не осознавали, что поисковики индексируют такие ссылки — и их диалоги может увидеть любой желающий. Это приводило к утечке чувствительной информации, иногда даже с привязкой к реальным людям (как в случае с тем же LinkedIn).
В OpenAI утверждают, что индексация происходила в рамках эксперимента.
«Чаты ChatGPT не являются публичными, если вы сами не выбрали их опубликовать. Мы экспериментировали с тем, как упростить процесс безопасного обмена полезными беседами, сохраняя при этом контроль у пользователя. Сейчас этот эксперимент завершен», — сообщили представители компании порталу.
Google действительно индексирует открытые ссылки — как, например, документы из Google Drive, если в них стоит настройка «доступен всем по ссылке». Однако Google не индексирует файлы, которые не были где-либо опубликованы. То есть, если пользователь не выложил ссылку на чат на публичный сайт, она в обычных условиях не должна была попасть в результаты поиска. Тем не менее контроль за индексацией лежит на том, кто публикует — не на поисковике.
Представитель Google подтвердил это в комментарии TechCrunch:
«Поисковые системы не решают, какие страницы делать публичными. Это полностью зависит от тех, кто их публикует».
Впоследствии OpenAI сообщила, что убрала из ChatGPT функцию, позволявшую делать публичные беседы доступными для поисковиков. В компании опять пояснили, что это был краткосрочный эксперимент, который в итоге «создавал слишком много возможностей случайно поделиться тем, что человек не собирался раскрывать».