Эксперты утверждают, что интернет-ритейлер несет этическую ответственность за защиту от работ, сгенерированных чат-ботами, на чувствительные темы.
Amazon продает книги, предназначенные для людей, ищущих методы управления своим СДВГ, которые якобы предлагают экспертные советы, но, похоже, написаны чат-ботом, таким как ChatGPT.
На площадке Amazon появилось множество работ, созданных искусственным интеллектом, которые легко и дешево публиковать, но содержат бесполезную или опасную дезинформацию, такую как некачественные путеводители и книги о сборе грибов, поощряющие рискованную дегустацию.
На сайте интернет-ритейлера появилось несколько книг, предлагающих руководства по СДВГ, которые, похоже, также написаны чат-ботами. Среди названий: «Навигация по СДВГ у мужчин: процветание с поздней диагностикой», «Мужчины с СДВГ у взрослых: высокоэффективные техники для мастерства в фокусировке, управлении временем и преодоления тревожности» и «Диета и фитнес для мужчин с СДВГ у взрослых».
Образцы из восьми книг были проанализированы американской компанией, которая обнаруживает контент, созданный искусственным интеллектом. Компания заявила, что каждая из них имела рейтинг 100% по шкале обнаружения ИИ, что означает высокую уверенность в том, что книги были написаны чат-ботом.
Эксперты отметили, что интернет-площадки представляют собой «дикий запад» из-за отсутствия регулирования работ, созданных ИИ, и опасная дезинформация рискует распространяться в результате.
Майкл Кук, исследователь в области компьютерных наук из Кингс-колледжа в Лондоне, сказал, что генеративные ИИ-системы известны тем, что дают опасные советы, например, по поводу употребления токсичных веществ, смешивания опасных химикатов или игнорирования медицинских рекомендаций.
Поэтому «разочаровывает и удручает видеть, что книги, написанные ИИ, все чаще появляются на цифровых площадках», особенно на темы здоровья и медицины, что может привести к неправильной диагностике или ухудшению состояния, сказал он.
«Генеративные ИИ-системы, такие как ChatGPT, могли обучаться на большом количестве медицинских учебников и статей, но они также обучались на псевдонауке, теориях заговора и художественной литературе», — сказал Кук.
«Они также не могут критически анализировать или надежно воспроизводить знания, которые они ранее прочитали — это не так просто, как если бы ИИ «запомнил» то, что он видел в своих обучающих данных. Генеративные ИИ-системы не должны иметь права работать с чувствительными или опасными темами без контроля эксперта», — добавил он.
Однако Кук отметил, что бизнес-модель Amazon поощряет такую практику, так как она зарабатывает деньги каждый раз, когда люди покупают книгу, независимо от того, является ли работа «достоверной или нет», в то время как компании, создающие генеративные ИИ, не несут ответственности за созданные продукты.
Профессор Шеннон Валлор, директор Центра техноморального будущего Эдинбургского университета, сказала, что Amazon несет «этическую ответственность за то, чтобы не способствовать причинению вреда своим клиентам и обществу», хотя было бы «абсурдно» делать книготорговца ответственным за содержание всех его книг.
Проблемы возникают потому, что ограничения, ранее применявшиеся в издательской индустрии, — такие как репутационные опасения и проверка авторов и рукописей, — были полностью преобразованы ИИ, отметила она.
Это усугубляется «диким западом» в области регулирования, в котором нет «значимых последствий для тех, кто способствует причинению вреда», что способствует «гонке на дно», сказала Валлор.
В настоящее время нет законодательства, требующего маркировки книг, написанных ИИ. Закон об авторском праве применяется только в том случае, если контент конкретного автора был воспроизведен, хотя Валлор отметила, что закон о деликтах должен налагать «основные обязанности по заботе и должной осмотрительности».
Рекламные стандарты Агентства утверждают, что книги, написанные ИИ, не могут рекламироваться так, чтобы создавалось впечатление, что они написаны человеком, что позволяет людям, которые видели такие книги, подавать жалобы.
Ричард Вордсворт надеялся узнать больше о своем недавнем диагнозе СДВГ у взрослых, когда его отец порекомендовал книгу, которую он нашел на Amazon, искав «СДВГ у взрослых мужчин».
Когда Вордсворт сел читать ее, «сразу стало понятно, что что-то не так», — сказал он. Книга начиналась с цитаты консервативного психолога Джордана Питерсона, а затем содержала череду случайных анекдотов и исторических неточностей.
Некоторые советы были активно вредными, отметил Вордсворт. Например, в одной главе, обсуждающей эмоциональную дисрегуляцию, говорилось, что друзья и семья не «простят эмоционального ущерба, который вы причиняете. Боль и страдания, вызванные импульсивным гневом, оставляют неизгладимые шрамы».
Когда Вордсворт изучил автора, он заметил фотографию, которая выглядела как сгенерированная ИИ, а также отсутствие квалификаций. Он изучил несколько других названий на Amazon и был шокирован, обнаружив предупреждения о том, что его состояние «катастрофично» и что он «в четыре раза чаще умрет значительно раньше».
Он почувствовал себя «расстроенным», как и его отец, который очень образован. «Если его может обмануть такая книга, то кого угодно можно обмануть — и поэтому доброжелательные и отчаявшиеся люди наполняют свои головы опасной чушью от мошенников, наживающихся на этом, в то время как Amazon получает свою долю», — сказал Вордсворт.
Представитель Amazon заявил: «У нас есть руководящие принципы содержания, регулирующие, какие книги могут быть выставлены на продажу, и у нас есть проактивные и реактивные методы, которые помогают нам выявлять контент, нарушающий наши принципы, независимо от того, сгенерирован ли он ИИ или нет. Мы инвестируем значительное время и ресурсы, чтобы обеспечить соблюдение наших принципов и удаляем книги, которые не соответствуют этим принципам.
Мы продолжаем улучшать нашу защиту от несоответствующего контента, и наши процессы и принципы будут продолжать развиваться по мере изменения издательской среды».