«Яндекс» разрабатывает свой аналог ChatGPT — нейросеть YaLM 2.0

[inferrna]

и обратилась за помощью к Ларри Пейджу и Сергею Брину

Всё настолько плохо, что только отцы могут помочь. В голове теснятся аналогии - общение шамана с духами предков, "В бой идут одни старики", спиритический сеанс медиума XIX века, прочая некромантия.

[ValeriyPu]

At the time, 4GB hard disks were the largest available, so they stacked 10 of them into a cabinet assembled using Lego bricks.

[ValeriyPu]

Ждем результатов бенчмарков.

[shork]

балабоба 2.0

[vladimircape]

Ну что яндекс и дальше будет мучать своих кандидатов проверками на знания олимпиадных задач по программированию или будет смотреть на практический опыт. Сейчас chatgpt справляется с задачами на зубрешку.

[MrRewolwer]

Говорите так, будто хотите в Яндекс. Опыт подсказывает, что там остаются и оттуда выходят только "винтики", цель которых быть "корпоративными", а не эффективными.

Давно не берём выходцев Яндекса.

[riky]

кода мало, модель надо, или данные для обучения, это в 100 раз ценнее.
но опенсоурс продукт все равно рано или поздно появится.
пока сложно даже представить к чему это все приведет.

[victoriously]

1 версия в опенсурсе вместе с моделями, другое дело, что там надо 200гб vram для работы

[riky]

а где столько взять. вроде A100 и то только 80gb? или можно собрать из нескольких. грубо говорят 10x rtx3090/4090 24Gb ?

[victoriously]

Можно. В репозитории написано:

... is supposed to run on multiple GPUs with tensor parallelism. It was tested on 4 (A100 80g) and 8 (V100 32g) GPUs, but is able to work with different configurations with ≈200GB of GPU memory in total which divide weight dimensions correctly (e.g. 16, 64, 128).

[ValeriyPu]

Ой, а что, эти видеокарточки PVA-100, они дорогие?

[Tvoya_Mamka]

Очень смешно! Гнаться за невозможным. Яндекс.