
Всеобщий переход к параллельной обработке данных и кардинальное увеличение размера нейросетей привели к тому, что некоторые типы вычислений сейчас требуют очень быстрого доступа к памяти. В то же время разрыв в скорости доступа между микросхемой CPU и оперативной памятью чрезвычайно велик. Процессоры становятся всё быстрее, а скорость доступа к DRAM практически не растёт.
Оригинальная компьютерная архитектура фон Неймана не предусматривала разделение логики и памяти. Но прогресс не стоит на месте — и вот уже несколько производителей разработали интегрированные модули типа processing-in-memory (PIM). Это Samsung, SK hynix и израильский стартап NeuroBlade.