Главная » Блог » Chat-GPT теперь не будет лгать? OpenAI придумали новую стратегию

Chat-GPT теперь не будет лгать? OpenAI придумали новую стратегию

01.06.2023
130

Сейчас остро стала проблема дезинформирования пользователей искусственным интеллектом, и для борьбы с этим явлением OpenAI предложили решение.

Дезинформация, или «галюцинации» ИИ, возникают, когда модели, подобные ChatGPT, полностью фабрикуют информацию.

Фейки від ШІ

«Даже самые современные АІ-модели склонны разглашать ложные сведения. Они демонстрируют тенденцию придумывать факты в моменты неопределенности, – пишут исследователи OpenAI в своем отчете. – Эти галлюцинации вызывают много проблем в отраслях, требующих многоуровневых соображений, поскольку одной логической ошибки достаточно, чтобы сорвать более масштабный результат».

Поэтому OpenAI введет стратегию борьбы с вымыслами. Она состоит в том, чтобы учить модели ИИ вознаграждать себя за каждый отдельный, правильный шаг рассуждений, когда они приходят к ответу, вместо того чтобы вознаграждать только за правильный окончательный вывод. Исследователи назвали этот подход «контролем процесса». По их мнению, он может привести к созданию более логического искусственного интеллекта, поскольку эта стратегия побуждает модели придерживаться «цепочки мыслей», подобной человеческому.

 

Последние материалы рубрики

Как проанализировать посещаемость веб-сайта: топ-5...

Посещаемость сайта дает понять, насколько популярен веб-ресурс и как люди с ним взаимодействуют. В статье расскажем, как проверить...

Как написать эффективный follow-up? Советы для маркетинга и...

Эффективные коммуникации имеют важное значение для развития проекта, ведения бизнеса, поиска новых клиентов и трудоустройства. Чтобы...

TikTok, Reels, Shorts: как короткий видеоконтент вошел в нашу жизнь,...

Листая ленту соцсетей (TikTok, Instagram, Facebook) или YouTube, вы погружаетесь в мир коротких видео. Юмор, моменты из жизни друзей, обучающий контент,...

Сколько стоит разработка лендинга в 2025 году? Критерии стоимости

Сколько стоит разработка лендинга в 2025 году? Критерии...

У одностраничного сайта есть ряд преимуществ, за которые он полюбился интернет-маркетологам. Одним из них является то, что лендинги...

Остались вопросы?
Наши эксперты готовы ответить на них

Свяжитесь по указанному ниже телефону с нашим менеджером или воспользуйтесь услугой «Перезвонить мне». Мы свяжемся с вами в ближайшее время.

Команда Webpromo реализовывает все задачи, достигая лучших КРІ
Рекомендую Webpromo как надежных партнеров
Кратно выросли показатели прироста органического трафика
Середи многих мы выбрали Webpromo
Каждый участник — мастер своего дела
Ценю Webpromo за гибкость
Команда Webpromo - это как продолжение нашего отдела маркетинга

Мы используем cookie-файлы для предоставления вам наиболее актуальной информации.

Продолжая использовать сайт, Вы соглашаетесь с использованием cookie-файлов.