🤖🧠 При создании нейросетей по методу curriculum learning обучающие данные загружают в систему в определённом порядке — от простых к более сложным (по схожему принципу обучают людей в школах и университетах). Специалисты Яндекса использовали curriculum learning для обучения YandexGPT 3 Lite — новой версии облегчённой текстовой генеративной модели третьего поколения, которую представили сегодня.
Она отвечает на вопросы быстрее и точнее модели второго поколения, а во время тестов профессиональные асессоры выбирали её ответы чаще, чем ответы GPT 3.5 Turbo, в том числе благодаря методике последовательного обучения.
Помимо этого разработчики использовали датасет с более полезным и разнообразным набором данных, а ещё применяли обучение с подкреплением (Reinforcement learning, RL) с помощью дополнительной модели, которая оценивала качество ответов основной. Подробнее об обучении YandexGPT 3 Lite можно прочитать на Хабре.
⭐️ Если у вас оформлен Telegram Premium, поддержите наш канал по ссылке
Подписывайтесь 👉 @techno_yandex
Канал о том, как устроен мир технологий. Разберёмся в потоке технологических новостей о нейросетях, роботах, голосовых помощниках, умном доме и не только
Чат канала https://t.me/+488-8LyZuSM1NWRi
Boost https://t.me/techno_yandex?boost