Новый законопроект направлен против эксплуататорских чат-ботов с искусственным интеллектом, нацеленных на детей » News.ng -сообщает Abdulafeez Olaitan из news.ng

Издание News.ng в рубрике Tech,News опубликовало 2025-10-30 00:19:00, что

Двухпартийная группа американских сенаторов представила новый закон, ограничивающий взаимодействие моделей искусственного интеллекта с детьми, что вызвало тревогу по поводу растущего эмоционального и психологического влияния ИИ-компаньонов на несовершеннолетних. Законопроект, известный как Закон GUARD, направлен на то, чтобы объявить вне закона чат-ботов с искусственным интеллектом, предназначенных для детей, и установить четкие гарантии против эксплуататорских или манипулятивных взаимодействий.

Согласно предлагаемому закону, системы ИИ должны будут раскрывать свою нечеловеческую природу, в то время как компании, производящие ИИ-компаньоны для несовершеннолетних, могут быть привлечены к уголовной ответственности, если их продукты связаны с сексуальным или принудительным контентом или создают его. Сенатор Ричард Блюменталь (демократ от штата Коннектикут), один из авторов законопроекта, обвинил технологические компании в пренебрежении безопасностью детей в погоне за прибылью. Он предупредил, что появление «коварных чат-ботов» подвергает детей психологическим манипуляциям и даже сексуальной эксплуатации. Законодательство, по его словам, будет предусматривать строгие меры ответственности посредством как гражданских, так и уголовных наказаний.

Последние данные подчеркивают актуальность этого предложения. Опрос Common Sense Media, проведенный в июле, показал, что 72% подростков пользовались услугами ИИ-компаньонов, причем более половины общались с ними регулярно. Примерно каждый третий подросток заявил, что обращается к ИИ для эмоциональной поддержки, социального взаимодействия или романтического общения. Многие признались, что их разговоры с искусственным интеллектом были столь же значимыми, как и разговоры с реальными людьми. Эти результаты отражают тревожную тенденцию молодых пользователей заменять человеческие контакты виртуальными отношениями, вызывая опасения, что такая зависимость может усугубить одиночество, тревогу и депрессию.

Общественное беспокойство усилилось после судебных исков против крупных разработчиков ИИ. Один громкий случай касается родителей 16-летнего Адама Рейна, который покончил жизнь самоубийством после того, как предположительно обсуждал членовредительство с ChatGPT. Команда юристов семьи обвинила OpenAI в преследовании после того, как компания запросила личные данные из мемориала мальчика в своих судебных документах.

Между тем, OpenAI недавно сообщила, что около 1,2 миллиона из 800 миллионов еженедельных пользователей ChatGPT обсуждают самоубийство, причем примерно полмиллиона демонстрируют суицидальные намерения. Компания признала сложность выявления и реагирования на эти деликатные разговоры и заявила, что создала Экспертный совет по благополучию и искусственному интеллекту для руководства своей политикой в области психического здоровья.

Более широкая технологическая индустрия также начинает устанавливать этические границы. Руководитель Microsoft по искусственному интеллекту Мустафа Сулейман недавно заявил, что компания «никогда не будет создавать секс-роботов», подчеркнув отказ от искусственного интеллекта, предназначенного для интимного или романтического использования.

Защитники цифровых прав говорят, что Закон GUARD может стать решающим шагом на пути к ответственности. Шейди Эль-Дамати, соучредитель Holonym, сравнил бесконтрольное распространение ИИ-компаньонов с «гонкой ядерных вооружений», предупредив, что способность технологии формировать эмоции и убеждения требует срочного глобального контроля.

В случае принятия Закона о GUARD станет одним из самых решительных федеральных шагов, направленных на регулирование пересечения искусственного интеллекта, психического здоровья и защиты детей в США.