Калифорния приняла знаковый закон, регулирующий чат-боты с эмоциональным искусственным интеллектом » News.ng -сообщает Abdulafeez Olaitan из news.ng

Издание News.ng в рубрике News,Tech опубликовало 2025-10-13 21:24:00, что

Калифорния официально стала первым штатом США, который регулирует использование эмоционально интеллектуальных чат-ботов, предназначенных для имитации дружбы или близости. Губернатор Гэвин Ньюсом в понедельник подписал сенатский законопроект 243 (SB 243), который требует от чат-ботов-компаньонов ИИ раскрывать, что они являются искусственными, ограничивать деликатные разговоры с несовершеннолетними и при необходимости активировать меры по предотвращению самоубийств.

Законопроект, представленный сенатором Стивом Падилья от Сан-Диего, знаменует собой новаторский шаг в надзоре за системами эмоционального ИИ. В отличие от более широкой политики в области ИИ, которая фокусируется на прозрачности данных или алгоритмической предвзятости, SB 243 напрямую нацелен на эмоциональное взаимодействие между пользователями и чат-ботами. Он требует, чтобы компании следили за тем, чтобы их ИИ-компаньоны регулярно напоминали пользователям об их искусственной природе, использовали возрастные фильтры для предотвращения дискуссий о сексуальном контенте или членовредительстве с несовершеннолетними, а также уведомляли Управление по предотвращению самоубийств Калифорнии, если у пользователя проявляются признаки суицидальных мыслей.

Однако окончательный вариант закона менее строгий, чем первоначальное предложение. Более ранние проекты включали положения о сторонних аудитах и более широкие требования к соблюдению требований для всех пользователей, а не только несовершеннолетних. Эти положения были исключены после лоббирования со стороны технологических компаний и заинтересованных сторон отрасли, которые утверждали, что более ранняя версия будет налагать чрезмерное бремя на разработчиков.

Это размывание вызвало критику со стороны организаций по цифровой безопасности, в том числе Common Sense Media и Tech Oversight Project, которые отказались от поддержки после внесения изменений. Критики назвали окончательный вариант законопроекта скорее символическим, чем содержательным, предупреждая, что ему не хватает силы правоприменения, необходимой для обеспечения реальной ответственности. Один из адвокатов сообщил Tech Policy Press, что законопроект рискует стать «пустым жестом, а не значимой политикой».

Однако губернатор Ньюсом выступил в защиту законопроекта как необходимого шага на пути к ответственным инновациям. Он заявил, что, хотя технологии могут объединять людей и расширять их возможности, они также создают риски без надлежащих границ, особенно для детей. «Мы можем продолжать лидировать в области искусственного интеллекта и технологий, но мы должны делать это ответственно, защищая наших детей на каждом этапе пути», — сказал он.

SB 243 дополняет более широкую волну государственных правил в области искусственного интеллекта в Калифорнии. Всего за несколько недель до этого Ньюсом подписал SB 53, который обязывает крупных разработчиков ИИ раскрывать информацию о том, как они оценивают и смягчают потенциальный вред, связанный с их моделями. В совокупности эти меры ставят Калифорнию в авангарде управления искусственным интеллектом на уровне штата.

Тем не менее, практические проблемы значительны. Разработчики предупреждают, что страх ответственности может привести к тому, что компании будут чрезмерно ограничивать разговоры о психическом здоровье или сексуальности — темах, которые могут оказать жизненно важную эмоциональную поддержку пользователям, особенно изолированным подросткам. Правоприменение — еще одна серая зона, поскольку выявление несовершеннолетних в Калифорнии и мониторинг миллионов ежедневных обменов чат-ботами, скорее всего, окажутся трудными.