Можете ли вы доверять Эрике, Сэнди или Эми в том, что они будут все больше контролировать часть вашей финансовой жизни, не сообщая вам неточной информации и не отправляя деньги не туда?
Это то, о чем Бюро финансовой защиты потребителей спрашивает в отчете, опубликованном во вторник, где бюро излагает ряд опасений по поводу растущего использования чат-ботов банками для обработки рутинных запросов клиентов на обслуживание.
CFPB опасается, что банки или кредитные компании могут сократить штат сотрудников по обслуживанию клиентов и переложить все большее количество рутинных задач на ИИ. Кроме того, регулирующий орган заявляет, что плохо спроектированные чат-боты могут противоречить федеральным законам, которые регулируют сбор долгов или использование личной информации.
«Если фирмы плохо развёртывают эти сервисы, существует большой риск широко распространенного вреда для клиентов», — сказал Рохит Чопра, директор CFPB, в интервью Associated Press.
В течение нескольких лет банки обрабатывают все больше и больше запросов на обслуживание клиентов с помощью чат-ботов, часто с женскими именами, такими как Sandi для Santander, Amy из HSBC или Eno из Capital One.
Bank of America управляет крупнейшим и наиболее успешным финансовым чат-ботом под брендом Erica. Эрика — последние пять писем в Америке — теперь обрабатывает сотни миллионов запросов в год от клиентов BofA.
Первоначально банковские чат-боты использовались для базовых запросов, таких как изменение адреса или номера телефона клиента , или сообщение клиенту, где находится ближайшее отделение, или какой номер маршрута может быть в его учетной записи. Но поскольку банки вложили миллионы в эти услуги, чат-боты стали особенно изощренными, способными понимать полные предложения или даже помогать клиенту перемещать деньги или оплачивать счета.
По оценкам CFPB, примерно четверо из каждых 10 американцев взаимодействовали с банковским чат-ботом в прошлом году, и ожидается, что эта цифра будет расти.
Банки готовятся к развертыванию еще более продвинутых услуг, подобных ИИ. Сообщается, что JPMorgan Chase разрабатывает планы по использованию ChatGPT и искусственного интеллекта , чтобы помочь клиентам выбрать подходящие инвестиции. Банкиры Bank of America могут использовать Erica для создания профилей клиентов и потенциально рекомендовать продукты этим клиентам.
Хотя эти услуги могут сэкономить клиентам минуты или часы, ожидая ответа на вызов человека, чтобы задать обычный вопрос, агентство обеспокоено тем, смогут ли эти чат-боты справиться с нюансами и сложным характером законов о защите прав потребителей, не предоставляя клиентам неточную информацию .
«Существуют федеральные законы, которые дают клиентам права, когда речь идет о долгах или оспаривании транзакции, и если агенты по обслуживанию клиентов заменяются чат-ботами, это может создать проблемы, если это программное обеспечение предоставляет им неточную информацию», — сказал Чопра.
Бюро также обнаружило, что пожилые клиенты или клиенты, чей основной язык не английский, могут оказаться в «петле» обслуживания клиентов и не иметь возможности связаться с человеком-агентом.
«Снова и снова мы находили жалобы на то, что клиенты застревают в круговых спорах с роботом или получают неверную информацию», — сказал он.
Чопра, как в своей нынешней роли директора CFPB, так и ранее в качестве комиссара Федеральной торговой комиссии, неоднократно выражал обеспокоенность тем, что банки и компании могут нарушать законы о защите прав потребителей, если они плохо внедряют алгоритмы или программное обеспечение искусственного интеллекта. Было много сообщений о том, что чат-боты от Microsoft, Google и других компаний использовали необъективную лексику при появлении запроса.
Теги: банк, ИИ
