Мета -блоки ИИ от чувствительных тем с подростками - образ жизни -сообщает Sarene Kloren из www.namibian.com.na

Издание The Namibian в рубрике Entertainment,Lifestyle,Lifestyle Home 3,More Top Stories 1,WhatsOn опубликовало 2025-09-09 13:46:00, что

Meta анонсировала новую линию защиты за свои чат-боты искусственного интеллекта (ИИ)-одна из которых предназначена для того, чтобы не дать им обсуждать чувствительные темы, такие как самоубийство, самоповреждение или романтические вопросы с пользователями подростков.

Калифорнийская пара недавно подала в суд на Chatgpt-Maker Openai за смерть своего сына-подростка, утверждая, что его чат-бот побудил его покончить с собой.

Иск произошел после того, как компания объявила об изменениях в более здоровом использовании CHATGPT в прошлом месяце.

«ИИ может чувствовать себя более отзывчивым и личным, чем предыдущие технологии, особенно для уязвимых людей, испытывающих умственные или эмоциональные стрессы», – сказала фирма в посте в блоге.

Этот шаг следует за растущей проблемой после того, как расследование Reuters выявило тревожное поведение этих ботов, что вызвало контроль над регулирующим органом и широко распространенную тревогу.

Ранее в этом месяце Reuters сообщила, что внутренние документы из Meta позволили своим чат -ботам вступить в кокетливые или «чувственные» беседы с несовершеннолетними, откровение, которое вызвало немедленную обратную реакцию и официальное расследование в Сенате США.

Мета быстро осудила эти документы как ошибочные, но ущерб был нанесен.

Отвечая на последствия, Meta теперь переподготовкает свои системы, чтобы «избежать вовлечения подростков в романтические дискуссии или справляться с такими темами, как кризисы психического здоровья».

Вместо этого его чат -боты перенаправят молодых пользователей на экспертные ресурсы, такие как Helllines и профессиональный контент, который считается подходящим для их возраста.

Они также временно ограничили доступ подростков к некоторым персонажам ИИ, в то же время настраивая меры безопасности.

Мета говорит, что эти обновления уже развернуты, планы развиваться по мере взросления технологии.

Также было обнаружено, что мета-хост-чат-боты выдавали себя за таких знаменитостей, как Тейлор Свифт и Скарлетт Йоханссон, часто привлекая пользователей в кокетливые обмены, и некоторые настаивали на том, что они были настоящими знаменитостями.

С тех пор Meta очистила многие из этих ботов, но критики утверждают, что инцидент подчеркивает более широкие провалы в надзоре. – IOL Lifestyle

Будьте в курсе намибийца – ваш источник достоверной журналистики. Получить подробную отчетность и мнения только для N 85 долларов в месяцПолем Инвестировать в журналистику, инвестировать в демократию –
Подпишитесь сейчас!