Главная » Блог » Chat-GPT теперь не будет лгать? OpenAI придумали новую стратегию

Chat-GPT теперь не будет лгать? OpenAI придумали новую стратегию

01.06.2023

Редакция: Дарья Картавченко. Автор: Дария Картавченко


Сейчас остро стала проблема дезинформирования пользователей искусственным интеллектом, и для борьбы с этим явлением OpenAI предложили решение.

Дезинформация, или «галюцинации» ИИ, возникают, когда модели, подобные ChatGPT, полностью фабрикуют информацию.

Фейки від ШІ

«Даже самые современные АІ-модели склонны разглашать ложные сведения. Они демонстрируют тенденцию придумывать факты в моменты неопределенности, – пишут исследователи OpenAI в своем отчете. – Эти галлюцинации вызывают много проблем в отраслях, требующих многоуровневых соображений, поскольку одной логической ошибки достаточно, чтобы сорвать более масштабный результат».

Поэтому OpenAI введет стратегию борьбы с вымыслами. Она состоит в том, чтобы учить модели ИИ вознаграждать себя за каждый отдельный, правильный шаг рассуждений, когда они приходят к ответу, вместо того чтобы вознаграждать только за правильный окончательный вывод. Исследователи назвали этот подход «контролем процесса». По их мнению, он может привести к созданию более логического искусственного интеллекта, поскольку эта стратегия побуждает модели придерживаться «цепочки мыслей», подобной человеческому.

 

Последние материалы рубрики

Тренды ASO: ключевые тенденции продвижения приложений в 2024 году

Тренды ASO: ключевые тенденции продвижения приложений в 2024...

В App Store размещено более 2 миллионов приложений. Эти данные свидетельствуют о высокой конкурентности среды мобильных программ, в...

14 действенных способов найти любой адрес электронной почты

Электронная почта — эффективный способ...

Трендовые хештеги в TikTok: как их использовать и где искать?

Tiktok – третья по величине социальная сеть...

YouTube запускает несколько новых функций для шопинга онлайн

Новые опции позволят создателям создавать коллекции для покупки, лучше планировать свои платные видео, быстро монетизировать старые...

Остались вопросы?
Наши эксперты готовы ответить на них

Свяжитесь по указанному ниже телефону с нашим менеджером или воспользуйтесь услугой «Перезвонить мне». Мы свяжемся с вами в ближайшее время.

Команда Webpromo реализовывает все задачи, достигая лучших КРІ
Рекомендую Webpromo как надежных партнеров
Кратно выросли показатели прироста органического трафика
Середи многих мы выбрали Webpromo
Каждый участник — мастер своего дела
Ценю Webpromo за гибкость
Команда Webpromo - это как продолжение нашего отдела маркетинга
Спокоен за продвижение своих проектов в интернете

Мы используем cookie-файлы для предоставления вам наиболее актуальной информации.

Продолжая использовать сайт, Вы соглашаетесь с использованием cookie-файлов.