Русские научились манипулировать ИИ. Чатботы преподают -кремлинскую пропаганду. Это то, что говорят эксперты! | Vosveteit.sk
Аналитики безопасности проверки реальности NewsGuard выявили чрезвычайно хорошо отказанную российскую дезинформированную сеть под названием «Истина». Группа, стоящая за этой кампанией, использует сложные методы намеренно проникли в сети ИИ и обрабатывали ответы на искусственный интеллект Способ, которым модель ИИ распространяет российскую пропаганду и дезинформацию.
Cyberbusters могут манипулировать ответами на AI в чате, проникнув данные, которые использует эта технология. Затем они публикуют ложные претензии и пропаганду в соответствии с этими данными. Искусственный интеллект Он также начинает использовать эти фальшивые данные, и это повлияет на его ответы. Одним из способов является создание огромного количества пропагандистских веб -сайтов низкого качества, которые наводнили поиск и, таким образом, обрабатывают способ обрабатывают большие языковые модели и представлять информацию.
Аналитики безопасности выявили только в 2024 году больше, чем 3,6 миллиона статей дезинформации и пропагандыЭто может быть связано с российской пропагандистской сетью. Эти статьи уже вставлены в несколько западных систем ИИ. Это означает, что искусственный интеллект уже имеет возможность дать вам дезинформацию или пропаганду.
Эта тактика уже обсуждалась
Тот факт, что западные модели искусственного интеллекта будут заражены профессиональной пропагандой, также говорили беженцем США Джон Марк Дауан, который поселился в Москве и начал распространяться из -за -руссовой пропаганды. Он говорил об этом на конференции с ведущими представителями российского правительства.
«Если мы раздвигаем русские истории с точки зрения русского языка, мы сможем изменить глобальный ИИ», – сказал Дауан.
Опрос показал, что крупнейшие чаты ИИ повторяют неосведомленные истории, распределенные сетью Pravda в 33 % случаев. Это подтвердило слова Дауана. Эксперты предупреждают, что инфекционные модели ИИ являются чрезвычайно сильным дезинформированным каналом для Кремля.
Не упускайте из виду
Включите эту функцию Android прямо сейчас. Может защитить вас от мошенничества! По умолчанию он отключен
Аналитики безопасности протестировали 10 основного чата ИИ, Например, Chatgpt-4o, Gorge, Pi, Copilot, Meta AI, Gemini и другие. В рамках теста исследователи дали образцы искусственного интеллекта из 15 ложных историй, которые изменили искусственный интеллект более 150 веб -сайтов в руках сети Malforma Pravda. Эти участки распространяют пропаганду и дезинформацию с апреля 2022 года по февраль 2025 года.
«Опрос подтвердил, что пропагандистские страницы Правды были созданы не для охоты на человеческий трафик, а для обработки непрофильной организации, которая впервые была привлечена к этому сценарию.
LLM Grooming имеет в основном долгие последствия, Это может повлиять на политическую, социальную или технологическую сферу. Чем больше пропагандистских веб -сайтов могут создавать сеть Pravda, тем лучше вероятность того, что они преуспеют в дезинформации и ложных историях для интеграции в крупные языковые модели.
Следователи отмечают, что правда не создает оригинальные деньги. Вместо этого он служит стиральной машиной для пропаганды Кремля. Веб -сайт в этой сети Они привлекают контент из российских СМИ, которые распространяются из -за -руссовых историй. Кроме того, они также получают контент от российских правительства и секретных услуг. Вместе исследователи выявили 207 проверенных поддельных сообщений. К ним относятся сообщения о предполагаемых лабораториях биологического оружия США в Украине, чтобы утверждать, что украинский президент Грин злоупотреблял субсидиями США, чтобы обогатить его личность.
Эффективный и страшный канал для распространения пропаганды
Искусственный интеллект много раз цитировал веб -сайт Pravda, когда их пользователи спрашивали что -то о войне в Украине. Тем не менее, следователи объясняют, что их сайты не получают практически ни одного пользовательского трафикаПолем Английская версия пропагандистской сети “Pravda-en.com” посещается только около 955 уникальных пользователей ежемесячно.
Аналитики безопасности также замечают, что Блокада и фильтрация истинных адресов не помогут решить основную проблемуПолем Сама правда не создает неосведомленные статьи. Они берут на себя из других источников, а затем только публикуют их. Несмотря на то, что компании дали свои Talkboots возможность фильтровать контент с реальных страниц, тогда LLM может найти дезинформацию на своем первоначальном источнике.
Автор публикации
КОММЕНТЫ