Британские чиновники предупредили организации о рисках интеграции чат-ботов, управляемых искусственным интеллектом, в их бизнес.
Чиновники заявили: исследования все чаще показывают, что боты можно обманом заставить выполнять вредоносные задачи.
Британский национальный центр кибербезопасности (NCSC) заявил, что эксперты еще не разобрались с потенциальными проблемами безопасности, связанными с алгоритмами, которые могут генерировать взаимодействия, похожие на человеческие.
Как отмечает Reuters, инструменты на базе искусственного интеллекта скоро могут заменить не только поиск в Интернете, но и работу по обслуживанию клиентов и звонки по продажам. В NCSC подчеркнули, что это может нести определенные риски, особенно если такие модели будут включены в бизнес-процессы других элементов организации.
Например, чат-бот на базе искусственного интеллекта, развернутый банком, может обманом заставить совершить несанкционированную транзакцию.
Национальный центр кибербезопасности Великобритании — организация правительства Великобритании, которая оказывает консультативную помощь и поддержку в вопросах предотвращения угроз компьютерной безопасности.