В ChatGPT обнаружили серьезную ошибку

Исследователь обнаружил серьезную ошибку в ChatGPT, которая позволяла передавать детали разговора на внешний URL-адрес.

Исследователи обнаружили серьезную ошибку ChatGPT. Фото: СС0

Когда Иоганн Ребергер попытался предупредить OpenAI о потенциальной уязвимости, он не получил ответа, что вынудило публично раскрыть подробности о ней.

После раскрытия информации OpenAI выпустила проверки безопасности для ChatGPT, которые устраняют уязвимость, но не полностью.

Баг безопасности позволяет вредоносным чат-ботам на базе ChatGPT похищать конфиденциальные данные, такие как содержимое чата, а также метаданные и технические данные.

Ребергер сообщил OpenAI об уязвимости еще в апреле 2023 года, а в ноябре предоставил более подробную информацию о том, как ее можно использовать более изощренными способами.

Однако 15 ноября его сообщение в службу поддержки было отклонено с комментарием «Не применимо». Тогда Ребергер выпустил видео, демонстрирующее, как весь его разговор с чат-ботом был извлечен на сторонний URL-адрес.

Чтобы устранить этот недостаток, ChatGPT выпустила исправление. Исследователь утверждает, что патч не полностью устраняют недостаток, но успешный перехват разговора случается реже. Патч был реализован в настольных версиях ChatGPT, уязвимость остается актуальной в мобильном приложении iOS.

Startpack подготовил список продуктов, которые помогают защитить IT-активы компании от заражения зловредами. Список содержит продукты российских и зарубежных разработчиков. Помимо защиты от вирусов, решения позволяют хранить и управлять паролями, разворачивать антиспам-системы, проводить резервное копирование данных, защищать не только персональные компьютеры, но и серверы, а также локальные сети предприятия.

Статьи по теме