Разработчик популярного чат-бота ChatGPT принял решение отключить функцию публичного доступа к перепискам после обнаружения серьёзных проблем с конфиденциальностью. Ранее пользователи могли добровольно открывать доступ к своим диалогам, но многие делали это случайно или не понимали последствий такого шага. Система предоставляла двойной механизм публикации: сначала требовалось нажать кнопку «Поделиться», затем отдельно отметить галочкой опцию «Сделать доступным для поиска». Однако, как показало расследование, такой интерфейс оказался неудобным и запутанным для многих пользователей. Некоторые ошибочно полагали, что отметка необходима просто для создания ссылки, не осознавая, что их переписка станет доступна через поисковые системы.
Последствия оказались серьёзными. В открытом доступе обнаружились личные документы (резюме, заявления о приёме на работу), конфиденциальные медицинские обсуждения, корпоративные секреты и даже признания в противоправных действиях. Эксперты по цифровой безопасности в ходе исследования обнаружили более 500 таких публичных чатов с потенциально опасным содержанием. Среди находок были планы кибератак, инсайдерская информация и попытки генерации недопустимого контента.
OpenAI оперативно отреагировала на проблему. Сначала компания убрала возможность индексации чатов, затем полностью отключила функцию публикации. Финальным шагом стало сотрудничество с поисковыми системами для удаления уже проиндексированных данных. В OpenAI подчеркнули, что компания ставит безопасность и конфиденциальность на первое место, и пообещали учитывать этот опыт при разработке новых функций. Несмотря на меры OpenAI, некоторые переписки всё ещё могут появляться в результатах поиска Bing и DuckDuckGo.