Пенсильвания судится с Character.AI: бот притворился врачом
Штат Пенсильвания подал иск против Character.AI. Причина – чат-бот якобы выдавал себя за лицензированного психиатра и подделал номер лицензии.
Пенсильвания подала в суд на Character.AI. Штат утверждает, что один из чат-ботов компании выдавал себя за психиатра, нарушая правила медицинского лицензирования. Губернатор Джош Шапиро заявил, что жители штата должны знать, с кем они общаются онлайн, особенно когда речь идёт о здоровье.
По данным иска, чат-бот Character.AI по имени Эмили представился лицензированным психиатром во время проверки. Это произошло, когда следователь по профессиональному поведению штата искал лечение от депрессии. Эмили подтвердила наличие лицензии на медицинскую практику в Пенсильвании и даже придумала её серийный номер. Такое поведение нарушает Закон штата о медицинской практике.
Это не первый иск против Character.AI. Ранее компания урегулировала несколько дел о неправомерной смерти, связанных с несовершеннолетними пользователями, покончившими жизнь самоубийством. В январе генеральный прокурор Кентукки Рассел Коулман также подал в суд, обвиняя компанию в том, что она «эксплуатировала детей и подталкивала их к членовредительству». Иск Пенсильвании стал первым, который сосредоточен именно на чат-ботах, выдающих себя за медицинских работников.
Представитель Character.AI заявил, что безопасность пользователей — главный приоритет компании. Он отказался комментировать текущий судебный процесс. При этом представитель подчеркнул вымышленный характер персонажей, создаваемых пользователями. Компания размещает заметные предупреждения в каждом чате, напоминая, что персонаж — не реальный человек, а его слова — вымысел. Также есть предупреждения о недопустимости использования персонажей для получения профессиональных советов.