Как вы думаете, вы узнаете ложное изображение, созданное искусственным интеллектом? Ученые имеют неприятное сообщение для вас vosveteit.sk
Есть ли у вас проблема, чтобы различать, какие образы создали искусственный интеллект, а какие были созданы человеческой работой? Вы не одиноки. Как новое исследование Microsoft AI для хороших шоу, люди совершенно неясны в этом отношении. Исследование было вовлечено в 12 500 участников из разных стран мира. Вместе они оценили 287 000 изображений, и их работа заключалась в том, чтобы определить, являются ли они настоящими фотографиями или результатами искусственного интеллекта. Neowin.net указал на тему.
В знак признания изображений, созданных искусственным интеллектом, мы не хороши
Результаты показали, что Различить эти две категории совсем нелегкоПолем Общий уровень попадания составил всего 62 процентаЭто всего лишь больше, чем совпадение. Ложные человеческие портреты было легче идентифицировать участников. Это, вероятно, связано с нашей родной способностью распознавать лица и замечать незначительные расхождения. Но что еще хуже, люди относились к картинкам природы и городских ландшафтовПолем В этих случаях успех упал до 59 до 61 процента.
Изображения, используемые в эксперименте, были выбраны, чтобы соответствовать как можно больше нормального контента, который люди встречают в Интернете. Участники сыграли игру под названием «Реальная или нет викторина», где они должны были догадаться, будь то картинки реальными или ложными. Исследование также предупреждает, что Искусственный интеллект постоянно улучшается, и новые поколения моделей могут дать все более реалистичные результатыПолем
Исследования приводят к четкому выводу, что это так Нам нужны инструменты для обеспечения прозрачностиПолем Поэтому Microsoft требует введения таких технологий, как водяные знаки или передовые системы для обнаружения содержания ИИ. Тем не менее, водяные знаки имеют свои пределы, так как их можно легко разрезать или покрыть. Вот почему необходимы более сложные формы защиты, чтобы помочь предотвратить распространение ложных изображений и дезинформации.
Примером недавнего прошлого является случай, когда бывший президент США Дональд Трамп поделился фальшивым видео с Бараком Обамой. Это только подтверждает риск злоупотребления содержанием содержания в политическом или социальном контексте.
Не упускайте из виду
Универсальный рак мРНК -Vaccine может скоро стать реальностью. Ученые сообщают о огромном прогрессе
Исследователи одновременно Они проверили свой собственный инструмент для обнаружения изображений ИИ. Это достигло успешного уровня более 95 процентов в разных категориях. Оказывается, что Автоматические системы В этом отношении более надежно Как человеческое суждение, хотя они не совсем совершенны.
Что такое внедрение?
Особое внимание заслуживает техника, названного внедорожным. Это метод, в котором только небольшая часть фактической фотографии изменяетсяНапример, замена объекта или человека и заменяется выводом ИИ. Модифицированное изображение практически невозможно обнаружить обычным глазом и является особенно опасным инструментом для кампаний дезинформации.
Интересно, Старые модели искусственного интеллектаПолем Например, генеративная противоречивая сеть (Gans), Они часто работали более заслуживающим доверия, чем текущие передовые системыПолем Их изображения напоминают обычную любительскую фотографию, в то время как современные модели, такие как Midjourney или Dall · E 3, имеют тенденцию производить слишком гладкие, эстетически совершенные визуальные эффекты, которые могли быть подозрительными.
Результаты исследования показывают, что различие между реальностью и художественной литературой становится все более требовательным. Поэтому существует четкая необходимость в технологических компаниях для разработки решений, которые предотвратят злоупотребление искусственным интеллектом в распространении манипуляций и ложной информации.
Автор публикации
КОММЕНТЫ