Google сделала общедоступной самую мощную нейросеть в мире

Компания Google объявила о запуске открытого бета-теста своей передовой нейросети Gemini 1.5 Pro, ключевой особенностью которой стала возможность обрабатывать до 1 млн токенов.

Как передает Газета.ру, об этом сообщает портал Analytics India Mag.

Нейросеть Gemini 1.5 Pro работает с контекстным окном в 128 тыс. токенов с возможностью расширения до 1 миллиона. Она способна обрабатывать до 700 тыс. слов, 30 тыс. строк кода, 1 часа видео или 11 часов аудиоматериалов. В рамках исследований Google также успешно провела тестирование обработки до 10 млн токенов.

Используя архитектуру Transformer и MoE, Gemini 1.5 Pro демонстрирует высокую эффективность в различных задачах, включая анализ исторических данных, как, например, расшифровку стенограммы миссии «Аполлон-11». Кроме того, нейросеть не только анализирует большие объемы информации, но и быстро находит специфические фрагменты текста, а также эффективно работает с обширными блоками кода.

В тесте Needle In A Haystack (NIAH) нейросеть показала 99% точность в выявлении конкретных данных в обширных текстах. Ее способность к адаптивному обучению, продемонстрированная на примере бенчмарка Machine Translation from One Book (MTOB), выделяет Gemini 1.5 Pro как одну из лучших на сегодняшний день.