
Исследователи из OpenAI показали алгоритм GPT-3, предназначенный для написания текстов на основе всего нескольких примеров. Его архитектура Transformer аналогична GPT-2, но модель обучали на 175 миллиардов параметров или 570 гигабайтах текста.
Microsoft и NVIDIA объединились для создания Megatron-Turing Natural Language Generation ― генеративной языковой ИИ-модели с 530 млрд параметров. Это крупнейшая в мире монолитная трансформаторная языковая модель.
Яндекс выложил в свободный доступ нейросеть YaLM 100B, предназначенную для генерации и обработки текстов на русском и английском языках. В пресс-службе компании Хабру сообщили, что на данный момент это самая большая GPT-подобная модель, находящаяся в открытом доступе.
Cerebras Systems запустила уникальный вычислительный комплекс Andromeda для выполнения серьёзных нагрузок с помощью искусственного интеллекта. В основе вычислительного комплекса лежит кластер из 16 блоков Cerebras CS-2, объединённых 96,8-Тбит/с фабрикой. Каждый из блоков снабжён чипом WSE-2, насчитывающим 850 тысяч ядер, а общее число ядер составляет 13,5 млн. Также в состав каждого чипа входят 40 Гбайт сверхбыстрой памяти.
В конце прошлого года я опубликовал плагин FigmaScript, редактор для написания скриптов с API Figma. Были некоторые задумки по развитию плагина. Но планы планами, а тренды никто не отменял. Все последнее время youtube бомбил меня рекомендациями вроде "Программисты больше не нужны? GPT чат. Как ИИ пишет код". В итоге стало интересно и я решил-таки вылезти из танка и изучить вопрос. Штука эта мне понравилась и я, не долго думая, решил добавить ее в плагин. Сразу, конечно, наткнулся на то, что OpenAI заблокирован для пользователей России. Поэтому я нашел первый попавшийся условно бесплатный api и прикрутил его к FigmaScript.
Генеральный директор OpenAI Сэм Альтман прокомментировал слухи о GPT-4 во время интервью Youtube-каналу StrictlyVC. В ответ на вопрос, выйдет ли GPT-4 в первом квартале или полугодии 2023 года, он заявил, что «это случится тогда, когда разработчики будут уверены в том, что сделают всё безопасно и ответственно», не назвав никаких конкретных сроков.