Специалисты из Пекинской академии искусственного интеллекта создали мощную нейронную сеть, производительность которой превосходит другие варианты в десять раз.
Инженеры из Китая сделали генеративную нейронную сеть глубокого обучения, она получила название Wu Dao 2.0. Её мощность оказалась заметно выше, чем у аналогов Open AI GPT-3 и Google Switch Transformers.
Производительность нейронной сети часто измеряется в объеме параметров обучения. Так, нейронная сеть Open AI GPT-3 поддерживает 175 миллиардов параметров, однако мощность Wu Dao 2.0 превышает 1 триллион. Про другие важные данные, такие как число нейронов, их конфигурация не сообщается. Также неизвестна скорость работы.
Такая разработка может применяться во многих областях. Она, теоретически, способна писать эссе и стихи, имитировать речь, распознавать и генерировать изображения, создавать кулинарные рецепты.
Точнее, это как бы уже делается, правда, главное тут качество. Раз пока нейронные сети не стали популярными поэтами, писателями или хотя бы журналистами (эта работа гораздо проще, есть простейшие алгоритмы, которые уже используются в некоторых видах журналистской работы и позволяют взять на себя большую часть рутины), то с эссе пока всё плохо. Стихи некоторых типов умели генерировать некоторые программы на заре персональных компьютеров.
Проблема в том, что нейронные сети работают гораздо хуже, чем специально написанная программа без их использования. Например, в случае нейронных сетей нет возможности исправить ошибки, есть только возможность её выкинуть.
Если нейросеть ошибается, то сделать с этим ничего уже нельзя и надо разрабатывать новую. Например, в большинстве компьютерных игр так называемый искусственный интеллект не использует нейронные сети (речь о шутерах, стратегиях, шахматных программах и многих других жанрах, где неживые игроки способны на максимальном уровне обыграть очень многих, а иногда даже и всех соперников).
Сейчас нейронные сети стали кажущимся простым решением сложных задач. Но, как показывает практика, обычно результат получается не очень хорошим. Хотя есть и исключения. Ещё одно очень важное ограничение – нейронные сети работают очень долго, по сравнению с обычными алгоритмами.
