Google уже давно заботится о безопасности своих пользователей и принимает различные меры, чтобы сделать свои продукты надежными и безопасными. Это одна из причин, по которой компания недавно ужесточила правила установки приложений из неофициальных источников Android. Однако последняя проблема показывает, что большая языковая модель Gemini может быть уязвима для конкретных кибератак – Google пока не придала ей большого веса. Androidauthority привлекло внимание к этой теме.

Уязвимость к большим языковым моделям

По данным Bleeping Computer Portal, эксперт по безопасности Виктор Маркопулос сосредоточился на тестировании популярных языковых моделей на предмет их устойчивости к типу атак, называемому Контрабанда ASCII. Нашел это Двойняшки,, Глубокий поиск а Грок склонны к этой технике, хотя Клод,, Чатgpt а Второй пилот У них уже есть защитные механизмы, которые блокируют подобные атаки и поэтому безопаснее.

Контрабанда ASCII работает таким образом, что злоумышленник может замаскировать или «пронести» инструкцию непосредственно в текст, который будет анализировать искусственный интеллект. На практике это означает, что атака может быть скрыта, например, в виде невидимого текста в электронном письме. Если затем пользователь использует AI Gemini-Il для обобщения или обработки сообщения, сам искусственный интеллект также может прочитать эту скрытую инструкцию и бессознательно действовать.

В чем проблема?

Этот тип атаки опасен, поскольку злоумышленник может убедить ИИ скрытой командой, например, просмотреть содержимое ваших сообщений в электронных письмах и выполнить поиск конфиденциальных данных или отправить ваши контакты или другую личную информацию неавторизованному лицу. Twins связаны с Google Workspace, поэтому подобная уязвимость означает больший риск. Злоумышленники могут попытаться получить доступ к бизнес-данным.

Это системная ошибка или ошибка пользователя?

Маркопулос о обнаруженной ошибке Предупредил Google напрямую А еще он прислал практическую демонстрацию. Gemini удалось убедить его вернуть ссылку на мошеннический сайт, который был выпущен как бизнес для мобильного телефона. Google классифицировала этот случай не как ошибку своей системы, а как проявление социальной инженерии. Компания утверждает, что это проблема, которую необходимо решить, в частности, пользователю, поскольку ИИ лишь выполняет инструкции из введённого текста. В настоящее время нет информации о том, что Google планирует быстрое обновление Twins для устранения этой уязвимости.

Вас может заинтересовать:

Если вы используете Gemini для обобщения электронных писем или событий календаря, я рекомендую повысить ваше внимание и заметить все необычные требования или подозрительный контент, который увидит вас ИИ.

Вы также можете обсудить эту статью на нашем сайте Androidforum. Если вы ищете решение проблемы с вашим мобильным устройством, приложением или аксессуарами, спросите в нашем новом Androidfore.

Автор публикации

Christine Young

Helllo, boys, boys, boys

• Галерея пользователя
• Гостевая пользователя

Мастер оставил отзыв:

Good looking