«В Интернете полно сердец искусственного интеллекта», — говорит соучредитель Reddit: Теория мертвого Интернета рано или поздно | Воссветейт.ск
Интернет, каким вы его знаете, превращается в цифровую свалку. И что еще хуже, искусственный интеллект, который учится на нем, начинает «тупеть» от этой фигни. Новое исследование Корнеллского университета показало, что большие языковые модели (магистр права) они могут получить так называемую «гниль мозгов», интернет-сленг, обозначающий, что они отупели от просмотра примитивного интернет-контента, сообщает Windows Central.
Поэтому на практике их способность понимать текст, думать и реагировать ухудшается. если они долго обучались на некачественном контенте из сети.
Исследователи Корнелла создали специальные тесты, чтобы увидеть, как различные данные низкого качества влияют на модели. т.е. вирусные посты, статьи-кликбейты, автоматически переведенные тексты и сгенерированный контент, не имеющий никакой ценности. Они рассмотрели, что происходит, когда такой ИИ, как Лама 3 или Квен 2.5, обучается исключительно на такой фигне. В результате точность ответа упала с почти 75% до 57%, а способность понимать более длинные контексты упала с 84% до 52%. Исследователи назвали это «эффект доза-реакция», чем больше ерунды потребляет модель, тем больше она теряет разум.
Как человек, который проводит дни в TikTok или в комментариях под новостями, даже искусственный интеллект просто «онемеет». Исследователи даже обнаружили это с увеличением количества некачественного контента. Меняется и «индивидуальность» моделей. Они становятся менее этичными, более запутанными и чаще дают неточные или полностью сфабрикованные ответы. И что самое интересное, они перестают думать шаг за шагом, они просто пропускают логику и дают поверхностный ответ. Это звучит знакомо?
Теория мертвого Интернета постепенно сбывается
Это исследование фактически подтверждает опасения, высказанные Сэмом Альтманом, главой OpenAI. Вместе с Алексисом Оганяном, сооснователем Reddit, он утверждает, что «теория мертвого интернета» становится реальностью. Интернет, который когда-то жил с людьми сегодня его наводняют боты, учетные записи квази-ИИ и автоматизированный контент.
Не упускайте из виду
Как добавить виджет с последними новостями с сайтов на главный экран телефона?
«Большая часть Интернета мертва. Он полон марионеток, балласта LinkedIn и искусственного интеллекта. Что ценно, так это живые люди и живой контент», — говорит Оганян.
Альтман с ним соглашается, добавляя, что большинство аккаунтов в сети X (ранее Твиттер) сегодня им управляют такие модели, как LLM. Таким образом, Интернет превращается в огромную петлю, где ИИ читает контент, созданный другим ИИ и учиться у него. Что-то вроде цифрового инцест-сообщества, где мысли так долго смешиваются, пока они не станут ничем иным, как бессмысленной кашей.
И тут возникает большая проблема, который до сих пор обсуждается только среди исследователей. Будущие данные для обучения ИИ, огромные базы данных, такие как Common Crawl, используемые для обучения моделей, уже начинают загрязняться контентом, созданным самим ИИ. Это означает, что, даже если компании тщательно отбирают «качественные» данные, на практике к ним примешивается все больше автоматически сгенерированных статей, обзоров или резюме. Итак, ИИ в будущем он будет черпать не из человеческого опыта, а из собственных ошибок.
«Помои ИИ» молниеносно заполняют Интернет
Еще в прошлом году на это указывали исследователи из Amazon Web Services. более 57% контента в сети создается или переводится с помощью ИИ. Вы видите результат каждый день. В ваших браузерах появляются общие статьи без автора, которые пытаются выглядеть правдоподобными, но не предлагают ничего нового. Интернет медленно превращается в свою тень, из места, где рождались идеи, в ксерокс ксероксов.
«Скоро невозможно будет сказать, что реально, а что нет. Глубокие фейки, искусственные изображения, видео — все будет перемешано. Людям придется самим проверять опыт.,“, – резюмировал Джек Дорси, бывший глава Twitter.
И вот ваша задача. Если вы не хотите, чтобы ваш мозг заменил алгоритм, научитесь проверять то, что вы читаете. Не доверяйте только тому, что вам подбрасывают Google или социальные сети. Обращайтесь непосредственно к проверенным источникам, авторитетным новостным сайтам, университетским публикациям, официальным исследованиям. Поиск контента по имени автора, не анонимные «писатели». А когда вы обнаружите изображение, которое выглядит слишком идеальным, воспользуйтесь обратным поиском изображений. Это простой инструмент, который который скажет вам, был ли он создан ИИ.
Интернет, возможно, и меняется, но он еще не умер. Это также зависит от того, кого вы читаете, кому верите и чем делитесь. Потому что если бы ИИ заразился интернет-мусором, мы были ее первым учителем.
Автор публикации
КОММЕНТЫ