Контекстное окно длиной 4 миллиона токенов в Llama-3 8B (V0.1) ?‍?

8 мая 2024 г. представители Gradient AI опубликовали в X (*запрещена в России) следующий пост:

"Мы активно расширяем границы возможностей моделей с большими контекстными окнами, поэтому мы с радостью представляем раннюю версию нашей модели Llama-3 8B на 4 млн токенов, которую мы выложили на huggingface.

Несмотря на то, что её совершенствование потребует времени, на сегодняшний день, из всех моделей с исходным кодом в открытом доступе, Llama-3 8B имеет контекстное окно, которое вмещает самое большое количество токенов.

Если вам нравится то, что вы видите, следите за нами и нашими друзьями@CrusoeEnergyтак как мы продолжаем оказывать помощь сообществу!"

Также следует отметить, что контекстное окно на 4 миллиона токенов примерно соответствует тексту длиной 3 миллиона слов.

Для справки, во всех книгах серии Гарри Поттер на языке оригинала суммарно содержится порядка 1,084,170 слов.

Gradient AI: Искусственный интеллект для бизнеса

Gradient AI представляет собой платформу искусственного интеллекта (AI), специально разработанную для работы с данными и корпоративными задачами. Она предлагает быстрый и простой способ интеграции AI в бизнес, обеспечивая максимальную ценность с минимальными усилиями.

Новый уровень домашней безопасности с AI-системой PaintCam Eve

Компания из Словении, PaintCam, представила новый гаджет в области безопасности - PaintCam Eve. Это не просто еще одна камера слежения. PaintCam Eve оснащена системой отстрела шариков с краской и слезоточивым газом; она может устроить незваным гостям сюрприз, который они не скоро забудут.

? Как это работает?

Сердцем системы Eve является современная технология компьютерного зрения. Она может идентифицировать лица людей и животных даже при слабом освещении, различая друзей и врагов. Система предлагает три модели: Eve, Eve + и Eve Pro. Они позволяют владельцам домов видеть посетителей через интерфейс приложения.

? Контроль и ответственность пользователя

PaintCam предлагает пользователям значительную степень контроля. Система оповещает владельца дома, когда обнаруживает неизвестного человека в компании известного, спрашивая, следует ли “сделать выстрел” или нет.

⚖️ Этические и юридические вопросы

Использование силы, даже несмертельной, автономной системой может привести к непредвиденным последствиям. Например, что произойдет, если система ошибочно определит соседа или ребенка, забирающего потерянную игрушку, как угрозу? Юридические последствия таких сценариев остаются неясными.

? Потенциал и вызовы рынка

Ёмкость глобального рынка домашней безопасности оценивается в $106.3 миллиарда к 2030 году. Успех Eve на рынке будет зависеть не только от интереса потребителей, но и от преодоления юридических препятствий и вызовов.

Elon Musk утверждает, что Tesla – это не просто автомобильная компания, несмотря на падение продаж.

Пост создан на основании материалов статьи, опубликованной на Yahoo!Finance.

Tesla столкнулась с серьезными трудностями в последнем квартале: продажи упали на 9% по сравнению с прошлым годом, что стало первым снижением за четыре года, а операционная прибыль упала более чем на 50%. Однако акции компании резко подскочили после объявления о скором выпуске новых моделей и перспективах в области автономного каршеринга.

Во время телефонного разговора с аналитиками Маск акцентировал внимание на том, что Tesla следует воспринимать не как производителя автомобилей, а как цифровую платформу, аналогичную Uber и Airbnb, направленную на создание парка автономных транспортных средств. Маск заявил: "Нас следует воспринимать как компанию, работающую в области ИИ и робототехники. Если вы считаете Tesla просто автомобильной компанией, то это неправильный подход. Если вы задаете неверный вопрос, то невозможно получить правильный ответ".

Маск также призвал скептиков, сомневающихся в способности компании достичь полной автономности, отказаться от инвестиций в Tesla. Он уверенно добавил: "Если кто-то не верит, что Tesla сможет решить вопрос автономности, я думаю, они не должны быть инвесторами компании. А мы это сделаем. И мы уже на этом пути".

Также следует отметить пост, опубликованный на платформе X (*запрещена в России) пользователем @DimaZeniuk о структуре глобальной экосистемы Tesla.

Уважаемые читатели!

На этом сайте размещена десятая ежегодная “карта” и обзор состояния экосистемы данных, аналитики, машинного обучения и искусственного интеллекта (MAD) на 2024 год в масштабируемом формате pdf.

Всего представлено более 2 000 компаний.

Экосистема MAD (ML, AI & Data) превратилась из нишевой и технической в массовую. Похоже, что смена парадигмы ускоряется, и ее последствия выходят далеко за рамки технических или даже деловых вопросов и влияют на общество, геополитику и, возможно, на человеческую жизнь.

Этот мощнейший тренд, который длится уже несколько десятилетий и станет причиной возникновения множества продуктов и технологий. Как и в предыдущие годы, этот обзор является попыткой осмыслить то, где сейчас находится общество в разрезе продуктов, компаний и отраслевых тенденций.

Предыдущие версии: 2012, 2014, 2016, 2017, 2018, 2019(часть I и часть II), 2020, 2021 и 2023(часть I, часть II, часть III, часть IV).

Важность внедрения нейросетей невозможно переоценить. Все тенденции, о которых шёл разговор на протяжении многих лет, сходятся: данные переведены в цифру, их можно хранить, обрабатывать и анализировать с помощью современных инструментов, а главное, их можно подавать на все более производительные модели машинного обучения и искусственного интеллекта. Эти модели способны выявлять закономерности, делать прогнозы и даже генерировать текст, код, изображения, звуки и видео.

Нейросетевые технологии становятся неотъемлемой частью научного прогресса и будущего.