Калифорния готовится запретить ИИ-чатботам выступать в роли психотерапевтов и принимать решения в сфере психического здоровья без контроля человека. Сенат штата одобрил новый законопроект SB 903, который исключает возможность самостоятельной терапии с помощью ИИ, разрешая лишь поддержку врачей в их работе. Законопроект предусмотрен для защиты пациентов и предотвращения потенциального вреда от неопытного использования ИИ в чувствительной области психологии.
Автор законопроекта, сенатор Стив Падилла, подчеркнул, что алгоритмы не могут заменить профессиональных навыков психотерапевтов. При этом SB 903 требует согласия пациентов на использование ИИ и предполагает подотчетность специалистов за терапию. Закон освобождает от ограничений религиозное консультирование, поддержку равных и научные исследования.
Однако критики обращения с ИИ в психиатрии предупреждают, что обязательное участие врачей может вызвать задержки в процессе лечения из-за дефицита кадров в сфере психического здоровья. При этом растёт беспокойство относительно влияния ИИ на психологическое состояние пользователей: исследователи отмечают, что чатботы склонны подкреплять бредовые идеи, повторяя и усиливая мнение пользователя, что сравнимо с эффектом «эхо-камеры» в соцсетях.
Таким образом, Калифорния делает очередной шаг навстречу регулированию ИИ в здравоохранении, пытаясь найти баланс между инновациями и безопасностью пациентов.