Почему чат убеждает вас в правильности вашего ответа, даже если это плохо? Объяснение простое

Искусственный интеллект Он используется сегодня в школах, офисах и повседневной жизни, но все еще имеет одну фундаментальную слабость. Чатботи иногда просто думает о чем -то, но они дают это очень убедительно. Это явление называется «галлюцинацией» и приводит к неправильным ответам. Openai теперь утверждает, что он выявил основную причину этой проблемы и имеет решение, которое может сделать будущий AIS гораздо более надежным.

Компания вместе с экспертами из Georgia Tech Она выпустила 36-страничное исследование по этой теме. По словам авторов, галлюцинации не являются результатом плохого дизайна моделей, а способ протестированы и оцениваются эти системы. Текущие стандарты награды за Talk Boots, чтобы ответить на все, даже когда часто неправильно, Для обратного, они наказывают их, если они показывают неопределенность.

Запись чата частые галлюцинации

Поэтому исследователи предлагают изменение доступа. Если ответ является самостоятельным, но неверным, его следует считать значительно отрицательными. Напротив, модели должны зарабатывать очки за осторожность или подтверждение того, что они не знают ответа. О конкретном примере они показали, что Более осторожная модель только что ответил половина вопросов, Но прямо до 74 процентов. Другой, который ответил почти все, было галлюцинировано в трех случаях из четырех.

Если бы эта система была практикована, это могло бы по существу изменить поведение искусственного интеллекта. Вместо вымышленных ресурсов или статистики чаще отвечают Условия как “я не знаю”. Хотя на первый взгляд это звучит менее впечатляюще, это сэкономит пользователям время и энергию, что в противном случае должно контролировать ответы. И вы определенно не хотите делать это, когда используете сапоги в чате.

Вы можете быть заинтересованы в:

Для OpenAI это исследование важно, чтобы сделать искусственный интеллект более надежным и более полезным для обычных людей. Оценка, основанная на точности вместо самооценки, может способствовать будущим инструментам, будет действовать менее впечатляюще, Но они будут более практичными и надежными в повседневном использовании.

Наш совет

Начните новый учебный год Элегантный: планшеты Huawei с дополнительными скидками и подарками