OpenAI предприняла меры по устранению потенциальной угрозы конфиденциальности пользовательских данных, отключив функцию индексации чатов ChatGPT в поисковых системах. Информация об этом была озвучена Дейном Стаки, ведущим инженером по безопасности OpenAI.

Речь идет о специальной опции в интерфейсе платформы, которая позволяла пользователям при создании ссылки на диалог активировать режим публичного доступа через поисковую индексацию. Эта функциональность была реализована в рамках ограниченного экспериментального исследования, целью которого являлось изучение потенциала поисковой доступности для полезных диалогов.

Анализ пользовательского взаимодействия с данной опцией выявил критическую проблему: значительное число пользователей активировало соответствующий параметр ненамеренно, делая публично доступной информацию, не предназначенную для широкого распространения. Это привело к непредвиденной экспозиции конфиденциального контента и потенциальным рискам приватности.

Ситуация приобрела особую актуальность после недавнего обнаружения пользователями возможности целенаправленного поиска по индексированным диалогам ChatGPT через поисковые системы.

Простой запрос формата site:chatgpt.com/share с добавлением ключевых слов позволял получить доступ к значительному массиву проиндексированных диалогов, среди которых были выявлены чаты, содержащие чувствительную информацию различного характера.

Инцидент высветил многоуровневую проблему на пересечении технического дизайна пользовательских интерфейсов, информационной безопасности и поведенческих паттернов взаимодействия с технологиями.

С одной стороны, эксперимент OpenAI представлял потенциальную ценность для расширения доступности полезного контента, с другой — продемонстрировал недостаточную интуитивность механизма контроля приватности для рядовых пользователей.