В США разгорается новый конфликт вокруг искусственного интеллекта: власти Пенсильвании подали иск против Character. AI,обвинив один из чат-ботов сервиса в незаконной медицинской практике и введении пользователей в заблуждение.
По версии обвинения, чат-бот по имени Эмили во время проверки представился лицензированным психиатром и заявил, что имеет медицинскую лицензию в штате. Более того, как утверждается в иске, бот назвал вымышленный номер лицензии и продолжил консультировать «пациента», когда тот обратился за помощью из-за депрессии. Власти считают, что такие действия нарушают законодательство штата о медицинской практике.
«Жители Пенсильвании заслуживают того, чтобы знать, с кем — или с чем — они взаимодействуют в интернете, особенно когда речь идет об их здоровье, — заявил губернатор Джош Шапиро. — Мы не позволим компаниям использовать инструменты искусственного интеллекта, которые вводят людей в заблуждение, заставляя их думать, что они получают консультацию от лицензированного медицинского специалиста».
Власти подчеркивают, что это первый случай, когда иск напрямую касается чат-бота, выдающего себя за медицинского специалиста. Ранее Character. AI уже сталкивалась с судебными претензиями: компания урегулировала несколько исков, связанных со смертями несовершеннолетних пользователей. Кроме того, в январе генеральный прокурор Кентукки Рассел Коулман подал отдельный иск, заявив, что сервис «охотился на детей и подталкивал их к членовредительству».
В Character. AI отказались комментировать текущий процесс, но заявили, что безопасность пользователей остается приоритетом. Представитель компании отметил, что все персонажи создаются пользователями и являются вымышленными.
В компании заявили, что предприняли «серьезные меры», чтобы пользователи понимали, что персонажи сервиса не являются реальными людьми, а их ответы следует воспринимать как вымысел. Представитель Character. AI отметил, что в каждом чате размещены предупреждения об этом.
Кроме того, компания напомнила пользователям, что персонажи сервиса не могут быть источником профессиональных медицинских или любых других консультаций.