| Date | Title | Description |
| Sign up to see | Sign up to see | Sign up to see |
| Jul 24, 2024 | ruMTEB: новый бенчмарк для русскоязычных эмбеддеров | Салют, Хабр! На связи команды AGI NLP и нейронных сетей Виртуального ассистента Салют. В SberDevices наши команды занимаются созданием бенчмарков, а также обучением моделей для векторных представлений текстов или эмбеддеров. В этой статье р... |
| Dec 21, 2023 | Multilabel-классификация знаний школьников | «Устный счёт», Богданов‑Бельский, 1895.
Привет, Хабр! Меня зовут Егор, сейчас я учусь на четвёртом курсе кафедры математических методов прогнозирования (ММП) ВМК МГУ и изучаю машинное обучение, в том числе, обработку естественных языков (... |
| Nov 24, 2023 | Большие языковые модели (LLM) в задачах | В этой статье на практических примерах рассмотрим какие задачи из коробки могут решать современные большие языковые модели (large language models, LLM).
Но сначала немного теории...Что такое LLM?
Большая языковая модель — это тип модели глу... |
| Nov 22, 2023 | MERA — инструктивный бенчмарк для оценки фундаментальных моделей | Оценка ИИ — комплексная, сложная, но невероятно важная задача. Для тестирования моделей обычно используют бенчмарки — набор сложных заданий, решив которые, можно оценить способности языковых моделей. Благодаря бенчмаркам пользователи могут ... |
| Oct 18, 2023 | Сайга-Мистраль — третья русская нейросеть после YaGPT и GigaChat, публично доступная по API | Я уже недавно писал на Хабре, что понемногу пилю свой сервис VseGPT с доступом по OpenAI API и чатом к различным нейросетям - ChatGPT, Claude, LLama и пр. (Коротко: потому что вендорлок - зло, разнообразие и опенсорс - добро)
Большая часть ... |
| Oct 6, 2023 | SAGE: коррекция орфографии с помощью языковых моделей | Коррекция правописания является одной из основополагающих задач в области Natural Language Processing (NLP). Достаточно прозаичная формулировка и кажущаяся жёсткой структура орфографической системы скрывают под собой нетривиальные внутриязы... |
| Sep 20, 2023 | Как мы в Just AI создавали и тестировали собственную LLM JustGPT — третью большую языковую модель в России | Хабр, привет! Это Just AI, и мы создали JustGPT – третью большую языковую модель, сопоставимую по качеству ответов с известными LLM для русского языка (GigaChat, YandexGPT). Наша история – про работу над моделью, ее обучение и тестирование.... |
| Sep 7, 2023 | Как (быстро) сделать русский локальный ChatGPT | Эта история началась в начале марта этого года. ChatGPT тогда был в самом расцвете. Мне в Telegram пришёл Саша Кукушкин, с которым мы знакомы довольно давно. Спросил, не занимаемся ли мы с Сашей Николичем языковыми моделями для русского язы... |
| May 9, 2023 | Делаем анализатор ников на новой FRED-T5. Тотальный разнос | FRED-T5 расшифровывается как Full-scale Russian Enhanced Denoisers based on T5 architecture
Мы так давно ждали, и, наконец, свершилось! В русском языке появилась новая, по-настоящему "понимающая" модель. По результатам тестов Russ... |
| Apr 19, 2023 | FRED-T5. Новая SOTA модель для русского языка от SberDevices | Уже много времени прошло с момента публикации наших последних языковых моделей ruT5, ruRoBERTa, ruGPT-3. За это время много что изменилось в NLP. Наши модели легли в основу множества русскоязычных NLP-сервисов. Многие коллеги на базе наших ... |
| Feb 10, 2023 | Что под капотом «ответов на вопросы» Маруси? | Привет, это команда ответов на вопросы Маруси.
Этот материал состоит из двух частей. Это вторая часть (первая часть). В ней мы чуть глубже копнём технический аспект того, как устроены ответы на вопросы голосового помощника Маруся.
В первой ... |
| Jan 19, 2023 | MedBench: NLP-задачи в медицине, модели и методы их решения | Привет, Хабр! Меня зовут Даниил Погуляка. Я студент четвертого курса МГТУ им. Н.Э. Баумана, факультета "Информатика, искусственный интеллект и системы управления". Уже некоторое время я занимаюсь изучением методов машинного обучен... |
| Dec 21, 2022 | TAPE: первый бенчмарк для few-shot оценки языковых моделей на русском языке | Мы в SberDevices обучаем и оцениваем языковые модели для русского языка уже давно — так, например, за два года существования бенчмарка Russian SuperGLUE через его систему оценки прошли более 1500 сабмитов. Мы продолжаем разрабатывать инстру... |
| Dec 3, 2022 | Обучение Russian SuperGLUE моделей с помощью библиотеки DeepPavlov | Соревнования GLUE и SuperGLUE
В последние годы соревнования GLUE и SuperGLUE на английском языке стали стандартным бенчмарком для определения возможностей универсальных языковых моделей, таких как BERT, RoBERTa в решении широкого круга зада... |
| May 6, 2022 | Рейтинг русскоязычных энкодеров предложений | Энкодер предложений (sentence encoder) – это модель, которая сопоставляет коротким текстам векторы в многомерном пространстве, причём так, что у текстов, похожих по смыслу, и векторы тоже похожи. Обычно для этой цели используются нейросети,... |
| Dec 9, 2021 | Amazon делает умный дом ещё умнее, NVIDIA копирует голоса людей, а весь мир разрабатывает этику ИИ | Осенний дайджест главных новостей и исследований из мира голоса и разговорных технологий: от Meta, Amazon, Яндекса, Spotify и других компаний. Подготовлен на основе телеграм-канала Hey Voice! команды TORTU.
0 Обсудить
289 просмотров
Это пят... |
| Nov 10, 2021 | Нейросеть, способная объяснить себе задачу: P-tuning для YaLM | Мы уже рассказывали о том, как применили семейство генеративных нейросетей YaLM для подготовки ответов в Поиске, Алисе или даже в Балабобе. Главная особенность наших моделей — метод few-shot learning, который позволяет без дополнительного о... |
| Oct 10, 2021 | Нейросети для Natural Language Inference: логические умозаключения на русском языке | NLI (natural language inference) – это задача автоматического определения логической связи между текстами. Обычно она формулируется так: для двух утверждений A и B надо выяснить, следует ли B из A. Эта задача сложная, потому что она требует... |
| Aug 26, 2021 | Языковая модель SberDevices признана лучшей по пониманию текстов на русском языке | Энкодерная языковая модель ruRoberta-large (355 млн параметров, finetune), разработанная SberDevices, признана лучшей по оценке главного русскоязычного бенчмарка Russian SuperGLUE, уступив место только человеку. Место в рейтинге зависит от ... |
| Oct 22, 2020 | Сбер выложил русскоязычную модель GPT-3 Large с 760 миллионами параметров в открытый доступ | Последнее десятилетие в области компьютерных технологий ознаменовалось началом новой «весны искусственного интеллекта». Впрочем, ситуацию в индустрии в наши дни можно, наверное, охарактеризовать уже не как весну, а полноценное «лето ИИ». Су... |
| Sep 9, 2020 | Самая понятливая нейросеть: зачем нам рейтинг лучших NLP-систем и кто учит русскому языку англоязычные модели | Меня зовут Татьяна Шаврина, и я расскажу, как мы (команда AGI NLP Сбербанка) запустили проект Russian SuperGLUE — рейтинг русскоязычных NLP-моделей.
21 комментарий
5953 просмотров
Раньше способа оценивать такие модели по объективным метрика... |
| ruT5, ruRoBERTa, ruBERT: как мы обучили серию моделей для русского языка | В зоопарке русскоязычных моделей прибавление: в открытом доступе появилась модель text2text-генерации ruT5 и модели-энкодеры ruRoBERTa и ruBERT, формирующие семантическое пространство текста. Модели можно использовать для создания классифик... |
| Как Яндекс применил генеративные нейросети для поиска ответов | Только что мы представили новую версию поиска Y1. Она включает в себя комплекс технологических изменений. В том числе улучшения в ранжировании за счёт более глубокого применения трансформеров. Подробнее об этом направлении мой коллега Саша ... |