Google DeepMind открыла DeepMind Institute — платформу для междисциплинарных исследований, посвящённых безопасному развитию общего искусственного интеллекта (Artificial General Intelligence, AGI). Институт займётся вопросами применения AGI и его влияния на общество, в том числе киберрисками, биорисками и возможной утратой контроля над самообучающимися системами.
В совет директоров DMI вошли сооснователь DeepMind и главный научный сотрудник по направлению AGI Шейн Легг; президент по направлениям исследований Google и Google DeepMind Джеймс Маника и председатель совета директоров Google DeepMind Демис Хассабис. Легг также выполняет роль выпускающего редактора.
DMI станет платформой для публикации научных работ в сфере искусственного интеллекта и будет предназначена как для исследователей из Google и Google DeepMind, так и для мирового сообщества.
На платформе уже опубликованы четыре работы, включая одну, написанную Демисом Хассабисом. В статье он предлагает создать орган по стандартизации ИИ‑моделей — сначала добровольной, затем обязательной. Критерии для оценки предлагается разработать совместно с ИИ‑лабораториями. При этом со временем, как считает Хассабис, сертифицирующая организация должна будет создать собственные закрытые и независимые тесты, чтобы не дать разработчикам «подгонять» свои модели под испытания.
В июле Хассабис выпустил манифест, в котором заявил, что до создания полноценного AGI осталось всего несколько лет. Он подчеркнул, что AGI нельзя сравнивать с обычными технологическими прорывами вроде интернета или мобильной связи, так как масштаб грядущих изменений будет в 10 раз мощнее промышленной революции, а произойдёт всё в 10 раз быстрее.
«AGI гораздо ближе к открытию электричества или огня. Если задуматься, мы, по сути, нашли способ заставить песок думать. Это чудо. Но то, что мы коллективно сделаем сейчас, определит, как развернётся следующий этап развития нашей цивилизации», — заявил он.
