Компания «Яндекс» представила новый сервис под названием «Балабоба», использующий искусственный интеллект на основе языковой модели Yet another Language Model (YaLM) и способный генерировать каждое последующее слово в предложении.
Нейросеть с тремя миллиардами настроек в процессе обучения использовала страницы «Википедии», новостные материалы, книги, открытые записи в соцсетях и прочие ресурсы. YaLM применяется для формирования ответов в поисковой системе «Яндекса» и в ответах голосового ассистента «Алиса».
Согласно имеющейся информации, новый сервис «Яндекса» может генерировать текст в разных стилях. К примеру, народные мудрости, телевизионные программы, тосты, рекламные слоганы и прочие. Чтобы сгенерированные тексты были корректными грамматически и разнообразны с лексической точки зрения, в процессе обучения были использованы терабайты данных. Создатели также убрали из выборки повторяющиеся, незаконченные и неестественные тексты, чтобы не сделать модель чрезмерно перегруженной.
Главной особенностью YaLM является способность оперативно обучаться новому. Необходимо лишь несколько примеров, чтобы нейронная сеть сумела писать осмысленные отзывы на фильмы, застольные тосты или теории заговора. Для получения результата достаточно от пяти до нескольких десятков примеров, которые продемонстрируют, каким образом необходимо писать такие тексты, чтобы нейросеть сумела в последующем составлять осмысленные записи. Разработчики отметили, что для создания простых рекламных слоганов система обучалась на нескольких известных примерах, в том числе «Найдётся всё», что является известным слоганом самого «Яндекса».
