Компания «Яндекс» разместила в свободном доступе нейросеть YaLM 100B, способную генерировать и обрабатывать русскоязычные и англоязычные тексты. В компании отметили, это самая масштабная GPT-модель, которой могут воспользоваться все желающие. YaLM 100В включает в себя для обеспечения полноценной генерации контента порядка 100 млрд параметров.
«Разместив YaLM 100B в открытом доступе, тем самым, мы небезосновательно надеемся, что это задаст дополнительный импульс к развитию генеративных нейросетей», – рассказал Петр Попов, гендиректор «Яндекс.Технологий». Позже компания опубликовала расширенный пресс-релиз с его заявлением.
Принципы конструирования текстов и генерации нового контента языковые модели семейства YaLM самостоятельно определяют, отталкиваясь от законов лингвистики и собственных накопленных знаний об окружающем мироустройстве. Так, нейросеть способна придумывать таргетированные концепты для запуска рекламных кампаний, описывать товары и видеоролики, генерировать прозу и стихотворные произведения, составлять и классифицировать тексты поздравлений к праздникам, точно отвечать на заданные вопросы.
Например, на вопрос, в чем заключается смысл игры «Тетрис», нейросеть ответила, что в этой игре пользователь должен создавать и уничтожать блоки для заполнения экрана. YaLM 100B даже сделала самостоятельный вывод, что это очень полезная игра, поскольку обучает юзеров противостоять интерактивным ограничениям.
Модель прошла курс образования на суперкомпьютере «Яндекса». В процессе YaLM 100B обработала более 2 ТБ англоязычного и русскоязычного текстового контента из открытых датасетов и глобальной сети. ИИ поставляется по открытой лицензии Apache 2.0, он доступен на ресурсе GitHub.
Источник фото: ptoday.ru
