Многие сотрудники несанкционированно и небезопасно используют ИИ в офисе

Новый отчет Salesforce, в котором приняли участие более 14 тыс. сотрудников по всему миру, выявил некоторые серьезные ошибки в области кибербезопасности, которые являются результатом использования генеративного искусственного интеллекта на работе.

Многие сотрудники несанкционированно и небезопасно используют ИИ в офисе. Фото: СС0

Исследование показало, что большинство (84%) британских работников говорят, что им еще предстоит пройти формальное обучение по искусственному интеллекту от своих работодателей, несмотря на то, что они модели ИИ уже развёрнуты.

В Salesforce также сообщили, что более половины (55%) всех работников использовали на работе неутвержденные инструменты генеративного искусственного интеллекта, что подчеркивает, как потребность в подходящих инструментах, так и необходимость административных реформ.

Несмотря на широкое несанкционированное использование, наиболее популярной реакцией на понятие «безопасного использования» было «использование только одобренных компанией инструментов/программ генеративного ИИ». Сотрудники также отметили, что не следует использовать конфиденциальные данные компании и личные данные клиентов в своих подсказках GenAI.

И наоборот, меньше людей отметили, что им следует проконсультироваться со своим ИТ-отделом, прежде чем использовать такие инструменты.

С этической точки зрения исследование предполагает, что большинство работников обеспокоены точностью результатов ИИ, что указывает на необходимость применения дополнительного уровня проверки фактов поверх полученных результатов. Несмотря на это, две трети (64%) выдали работу, созданную генеративным ИИ, за свою собственную.

Однако в Salesforce утверждает, что это не полностью вина работников, поскольку только одна пятая (21%) опрошенных компаний в мире имела четко определенную политику, а у 37% вообще не было политики. Еще 15% компаний дали своим работникам лишь расплывчатую формулировку.

Из сообщения Паулы Голдман, директора по этике и гуманному использованию в Salesforce:

«Чтобы реализовать весь потенциал ИИ, крайне важно, чтобы мы инвестировали в сотрудников, использующих эту технологию, так же, как и в саму технологию. Имея четкие инструкции, сотрудники смогут понимать и устранять риски, связанные с ИИ, а также использовать его инновации для ускорения своей карьеры.»

Заглядывая в будущее, ожидается, что использование генеративного искусственного интеллекта будет расти, а работники начнут ощущать его преимущества, поэтому компаниям настоятельно рекомендуется пересмотреть свою политику и обучать своих работников.

Startpack подготовил список систем искусственного интеллекта. Искусственный интеллект (ИИ) широко используется в бизнесе — начиная от повышения качества обслуживания клиентов до автоматизации бизнес-процессов. Один из видов искусственного интеллекта — нейронные сети. Нейросети с помощью алгоритмов способны распознавать закономерности в данных и генерировать новые. Это лишь часть сфер, где может применяться искусственный интеллект. Внедрение искусственного интеллекта в работу компании сократит расходы и время.

Статьи по теме