«Баптистский отец искусственного интеллекта» предупреждает, что такова возможность ИИ выйдет из -за контроля над человеком. Последствия могут быть катастрофическими vosveteit.sk
Джеффри ХинтонОдин из пионеров в области искусственного интеллекта снова говорил. И его слова решают Нет ничего, что мы могли бы просто послушать. По словам Хинтона От 10 до 20 % случайночто, ИИ в будущем Он выходит из человеческого контроляПолем И хуже, люди, по его словам Они не знают, насколько близко мы можем быть к серьезным проблемам. TechSpot.com называет внимание новизны.
ИИ может вырасти до опасного монстра
В интервью для CBS сравнил ИИ Хинтон с развитием с ростом Тигры.
«Как будто вы принесли домой радостный тигр. Если вы не уверены, что он не убьет вас во взрослом возрасте, вы должны быть мудрыми».
Хотя его открытия в области нейронных сетей стояли при рождении современного ИИ в качестве Чатгпта, сегодня Хинтон предупреждает против их неконтролируемым развитиемПолем Технологический прогресс, по его словам Быстрее, До того, как он был безопасный, И компании обрабатываются, что будет Первый На рынке, например, что может вызвать неконтролируемое развитие.
Кроме того, он предупреждает, что современные модели искусственного интеллекта не иметь фиксированного контроля над тем, как они ведут себяПолем Если мы позволим им расти без правил, он сказал, что это только вопрос времени, Когда ситуация находится под контролем.
Иди в Google отъезд, чтобы говорить громко
Хинтон уже в 2023 году слева Google, чтобы предупредить риски без ограничений.
Не упускайте из виду
Некоторые программы хотят шпионить за вами. Вот как вы узнаете перед загрузкой, к каким частям телефона они хотят получить доступ
«Просто посмотрите, что прогресс, достигнутый ИИ за последние пять лет. И теперь представьте, что тот же темп будет длиться», – говорит он.
Если мы отразим эту идею в будущем, по словам Хинтона ждет нас Предпочтительно кошмары, чем утопические сцены.
Он особенно обеспокоен усилиями великих технологических игроков минимизировать правилаПолем
«Сейчас их мало, и они лоббируют еще меньше», – добавляет он.
По его словам, было бы идеально, если бы Безопасность была посвящена как минимум трети всех навыков компьютераПолем Не просто дефицитный процент, как сегодня.
Кто может сделать первую победу
По словам Хинтона, отличные технологические компании, такие как Google Они предпочитают скорость и прибыль по сравнению с безопасностьюПолем Разочарование также считает, что Google изменила свою первоначальную приверженность своему искусственному интеллекту никогда не будет использоваться в военных целяхПолем По его словам, этот шаг показывает, что Этика часто выходит из финансовых интересов.
Все больше и больше экспертов и бывших сотрудников компаний, чем Openai или Google Также предупреждает это Внутреннее давление на быстрое технологическое развитие создает среду, в которой меры безопасности часто подталкиваются к боковому пределу.
Другие эксперты видят это по -другому
Не все эксперты разделяют заботу Хинтона. Его коллега и другой “Баптистский ай” Янн Лекун много смотрит на ситуацию более оптимистично. По его словам, есть представления о том, что ИИ вызовет исчезновение человечества, «Совершенно смешно»Полем По словам Лекуна, ИИ требует обзора и приемлемого управления, а не НепаническийПолем
Но один уверен, искусственный интеллект развивается так быстрочто даже если вы верите Skeptikom Или Оптимизм, Обсуждение ее безопасности мы определенно будем Они не должны были легкомысленноПолем Будущее ИИ уже сформировано сегодня, и каждый шаг, который мы делаем, Это может иметь решающее значение.
Автор публикации
КОММЕНТЫ