NCSC предупреждает об опасностях ChatGPT

Национальный центр кибербезопасности Великобритании (NCSC) выпустил общее предупреждение, раскрывая некоторые риски для кибербезопасности со стороны больших языковых моделей. (LLM).

NCSC предупреждает об опасностях ChatGPT. Фото: СС0

Технические директора и авторы Дэвид С. и Пол Дж. начинают с развенчания некоторых мифов: например, растущего беспокойства о том, что ChatGPT и подобные инструменты будут изучать и хранить информацию, введенную в них конечными пользователями. Это неправда, поскольку обучение проводится в контролируемой среде создателями таких моделей.

Тем не менее, информация о запросах передается соответствующим компаниям, а это означает, что OpenAI, фирма, стоящая за ChatGPT, сможет определить, какие вопросы пользователи задают, чтобы улучшить свои услуги. По этой причине NCSC советует не делиться личной или конфиденциальной информацией где-либо в Интернете, в том числе с чат-ботами.

Авторы также отмечают риск использования LLM злоумышленниками. Предполагается, что с помощью инструмента ИИ он смогут сделать атаки «более опасными и изощренными».

По мере того, как интерес к искусственному интеллекту продолжает расти, растет и скептицизм в отношении передовых технологий. Недавно агентство Блумберг сообщило, что банковский гигант JP Morgan ввел ограничения на использование ChatGPT персоналом. Образовательные учреждения по всему миру также ввели ограничения на его использование.

Startpack подготовил список систем искусственного интеллекта. Искусственный интеллект (ИИ) широко используется в бизнесе — начиная от повышения качества обслуживания клиентов до автоматизации бизнес-процессов. Один из видов искусственного интеллекта — нейронные сети. Нейросети с помощью алгоритмов способны распознавать закономерности в данных и генерировать новые. Это лишь часть сфер, где может применяться искусственный интеллект. Внедрение искусственного интеллекта в работу компании сократит расходы и время.

Статьи по теме