Главная » Блог » Chat-GPT теперь не будет лгать? OpenAI придумали новую стратегию

Chat-GPT теперь не будет лгать? OpenAI придумали новую стратегию

01.06.2023

Редакция: Дарья Картавченко. Автор: Дария Картавченко


Сейчас остро стала проблема дезинформирования пользователей искусственным интеллектом, и для борьбы с этим явлением OpenAI предложили решение.

Дезинформация, или «галюцинации» ИИ, возникают, когда модели, подобные ChatGPT, полностью фабрикуют информацию.

Фейки від ШІ

«Даже самые современные АІ-модели склонны разглашать ложные сведения. Они демонстрируют тенденцию придумывать факты в моменты неопределенности, – пишут исследователи OpenAI в своем отчете. – Эти галлюцинации вызывают много проблем в отраслях, требующих многоуровневых соображений, поскольку одной логической ошибки достаточно, чтобы сорвать более масштабный результат».

Поэтому OpenAI введет стратегию борьбы с вымыслами. Она состоит в том, чтобы учить модели ИИ вознаграждать себя за каждый отдельный, правильный шаг рассуждений, когда они приходят к ответу, вместо того чтобы вознаграждать только за правильный окончательный вывод. Исследователи назвали этот подход «контролем процесса». По их мнению, он может привести к созданию более логического искусственного интеллекта, поскольку эта стратегия побуждает модели придерживаться «цепочки мыслей», подобной человеческому.

 

Последние материалы рубрики

Google выпустил обновление Core Web Vitals 12 марта 2024 года

Ключевые данные, которые следует знать про обновление Google.

Google интегрирует публикации из социальных сетей в...

Google будет подтягивать в результаты поиска публикации компании в соцсетях.

Как получить edu и gov ссылки на свой сайт: стратегия...

Gov (государственный) и edu (образовательный) — домены верхнего уровня. Такие веб-ресурсы имеют доверие поисковой системы и интерес со...

Поведенческие факторы как способ влияния на ранжирование...

Алгоритмы поисковой системы, в частности Google, стремятся сделать результаты выдачи оптимальными для пользователей. На ранжирование,...

Остались вопросы?
Наши эксперты готовы ответить на них

Свяжитесь по указанному ниже телефону с нашим менеджером или воспользуйтесь услугой «Перезвонить мне». Мы свяжемся с вами в ближайшее время.

Команда Webpromo реализовывает все задачи, достигая лучших КРІ
Рекомендую Webpromo как надежных партнеров
Кратно выросли показатели прироста органического трафика
Середи многих мы выбрали Webpromo
Каждый участник — мастер своего дела
Ценю Webpromo за гибкость
Команда Webpromo - это как продолжение нашего отдела маркетинга
Спокоен за продвижение своих проектов в интернете

Мы используем cookie-файлы для предоставления вам наиболее актуальной информации.

Продолжая использовать сайт, Вы соглашаетесь с использованием cookie-файлов.