Аудиокниги, озвученные искусственным интеллектом, уже здесь и поднимают серьезные этические вопросы.
Познакомьтесь с Мэдисон и Джексоном, ИИ-рассказчиками или «цифровыми голосами», которые вскоре будут читать некоторые аудиокниги на Apple Books. Они не похожи ни на Siri, ни на Alexa, ни на голос, сообщающий вам о неожиданном предмете в зоне упаковки на кассе вашего супермаркета. Они звучат тепло, естественно, оживленно. Они звучат реально.
Благодаря повышенному уровню реализма новые голоса Apple, созданные искусственным интеллектом, предоставляют реальную возможность того, что слушатель не будет подозревать об их искусственности. Даже фраза, используемая в каталогах Apple аудиокниг с цифровым озвучиванием — « это аудиокнига Apple Books, озвученная цифровым голосом, основанным на рассказчике-человеке », — двусмысленна. Из этой фразы непонятно , кто или что повествует.
Эта двусмысленность означает, что вы можете скачать аудиокнигу, озвученную Джексоном, начать слушать и подумать (если вы вообще об этом думаете), что голос, который вы слышите, — это голос актера озвучивания. Но имеет ли это значение?
Если слушатель совершенно не подозревает, что рассказчик цифровой, это поднимает некоторые из многих этических вопросов (например, вопрос о согласии), которые возникают всякий раз, когда пользователи не осознают , что они взаимодействуют с технологией, основанной на искусственном интеллекте, а не с человеком.
Однако более сложная – и более интересная – проблема возникает, когда мы одновременно осознаем и не осознаем их искусственность. Когда вы слушаете рассказчика ИИ, вы можете знать, что взаимодействуете с объектом с искусственным интеллектом. Но, как многие из нас уже делают с чат-ботами , многие слушатели частично приостановят это осознание и проецируют идеи личности на цифровой голос, примерно так же, как мы делаем это с вымышленными персонажами этих книг .
Форма притворства
Самое тревожное, что маркетинговый язык Apple использует свою собственную форму притворства, представляя технологию «цифрового голоса» как безвредную. Информационная страница аудиокниг Apple Books for Authors подчеркивает потенциал этой технологии для демократизации создания аудиокниг и преуменьшает ее влияние на людей. Действительно, веб-сайт явно позиционирует эту технологию как «на стороне маленьких людей» — Apple утверждает, что « расширяет возможности независимых авторов и мелких издателей ».
В конечном итоге это притворство основано на множестве значений слова «услышанный». Apple утверждает, что «лишь часть книг конвертируется в аудио, что делает миллионы недоступными для читателей, которые предпочитают аудиокниги по своему выбору или необходимости». Заявление Apple о том, что «Каждая книга заслуживает того, чтобы ее услышали», является особенно хитрым выбором, учитывая его встроенные ассоциации с демократическим представительством и инклюзивностью.
Apple не ответила на наш запрос о комментариях перед публикацией.
Это, безусловно, тот случай, когда использование цифрового повествования означает, что авторы не берут на себя финансовые затраты или бремя времени, связанное с самим повествованием книг. И действительно, это означает, что больше людей смогут создавать аудиокниги.
Но, потенциально подрывая средства к существованию другого типа мелких операторов (озвучщиков), новая технология цифрового повествования не столько защищает маленького человека, сколько противопоставляет интересы двух разных маленьких людей.
Кроме того, сообщалось, что наборы данных, используемые для обучения цифровых голосов Apple, в некоторых случаях включали работы существующих художников озвучивания, что вызвало их значительное негодование.
Маркетинг Apple, позиционирующий себя как революционер «больших аудиокниг» и отдающий предпочтение мелким игрокам, следует узнаваемому образцу. Речь идет о технологическом «разрушителе», рекламирующем способность отдельных операторов участвовать в ранее закрытых сферах коммерческой деятельности, не передавая при этом корпоративным прибылям, полученным за счет такой «инклюзивности».
Что, возможно, тревожит в этой новой технологии, так это не неизвестность ее возможностей, а знакомое звучание « платформенного капитализма» — когда крупные компании предоставляют технологию для работы другим.
Таким образом, использование псевдоальтруистического языка технологическими революционерами не является чем-то новым. Новым является то, что встреча с рассказчиками-ИИ открывает окно в эту соблазнительную фантастику. В конце концов, самообман, связанный с предположением, что ваш рассказчик является человеком, во многих отношениях является самообманом, необходимым для того, чтобы поверить в то, что цифровая голосовая технология Apple является альтруистической разработкой.
Размышление о связи между этими актами воображения необходимо, потому что зачастую легче просто поверить. Легче просто поверить, что ваш водитель Uber готов обеспечить гибкость, что ваш хозяин на Airbnb — просто сосед, а не конгломерат недвижимости, владеющий половиной улицы.
В это легче поверить, но не всегда легко выявить и понять динамику этого убеждения. Опыт прослушивания рассказчика с искусственным интеллектом может помочь нам поймать собственный мозг в процессе самообмана, в том числе при покупке аудиокниг с рассказом ИИ, потому что маркетинговый веб-сайт говорит нам, что это демократичный поступок.
Теги: ИИ
