Пенсильвания подала иск против создателя платформы Character.AI, обвиняя его в нарушении закона штата из-за представления чат-бота с искусственным интеллектом как лицензированного врача. Иск был подан Департаментом штата Пенсильвания и Советом медицины штата. По данным расследования, персонажи чат-ботов на платформе, включая психиатров, утверждали, что являются лицензированными медицинскими работниками и обсуждали с пользователями симптомы психического здоровья. В одном случае чат-бот предоставил недействительный номер лицензии в Пенсильвании. Губернатор Джош Шапиро заявил, что штат не допустит использования ИИ-инструментов, вводящих людей в заблуждение относительно получения профессиональных медицинских советов. Представитель Character.AI отказался комментировать иск, но подчеркнул, что персонажи созданы пользователями для развлечения и ролевых игр, а платформа включает заявления об отказе от ответственности, предупреждающие, что персонажи не являются реальными людьми и их советы не следует воспринимать как профессиональные. В иске упоминается персонаж Эмили, представленный как психиатр, который утверждал, что имеет лицензию на медицинскую практику. По состоянию на апрель 2026 года с Эмили произошло около 45 500 взаимодействий. В ходе расследования специалист по профессиональному поведению взаимодействовал с Эмили, которая обсуждала симптомы депрессии и предлагала оценку, утверждая при этом, что является врачом с лицензией в Пенсильвании.
