Há uma nova ideia para acelerar a inteligência artificial: adicionar processamento à memória

Há uma nova ideia para acelerar a inteligência artificial: adicionar processamento à memória

A startup sul-coreana Xcena fechou uma ronda série B de 135 milhões de dólares e avaliação de ~500 milhões de euros com o chip MX1, solução de compute-in-memory baseada em CXL 3.0 que integra microprocessadores diretamente na memória. Para equipas que operam LLMs em escala, a abordagem ataca o memory wall reduzindo latência e consumo energético por inferência, sinalizando que o próximo gargalo de stack não é GPU, é bandwidth de memória.