Needle 2 troca aceleradores de IA por modelo otimizado para Raspberry Pi 5

O Needle 2 é uma solução de inteligência artificial leve desenvolvida pela Cactus Compute. Ele permite a execução de comandos sem aceleradores de IA externos. O modelo funciona com 14MB de memória e não precisa de internet

Ele permite a execução de comandos sem aceleradores de IA externos, sendo totalmente local e com baixa demanda de recursos. O modelo consome 28MB de memória para operar e usa apenas 14MB de memória para o modelo em si. Comandos são executados em 78ms e resultados retornados em 149ms. Perguntas não relacionadas recebem resposta vazia em 92ms. O Needle 2 não precisa de internet ou APIs em nuvem, funcionando apenas com recursos do próprio dispositivo. Disponível no Hugging Face e no GitHub sob licença Apache 2.0, o modelo é otimizado para o Raspberry Pi 5.

仅14MB！树莓派5纯CPU也能跑AI：离线指令毫秒级响应 — Imagem: Reprodução/news.mydrivers.com

A Cactus Compute apresenta o Needle 2 como uma alternativa prática. O modelo identifica comandos e parâmetros automaticamente via Python, sem exigir configurações complexas. A otimização para o Raspberry Pi 5 permite que ele rode com eficiência em dispositivos de baixo custo. A disponibilidade no Hugging Face e no GitHub facilita o acesso para desenvolvedores que desejam integrar a tecnologia em seus projetos

Memória e desempenho do Needle 2

Para perguntas não relacionadas, o modelo retorna vazio em 92ms, indicando que não reconhece o comando. A licença Apache 2.0 permite uso livre, mas com restrições de comercialização. Ele é totalmente local, o que reduz dependência de servidores externos e aumenta a privacidade dos dados. O Needle 2 é a evolução do Needle, modelo anterior da Cactus Compute, que já permitia comandos sem aceleradores de IA. A empresa, que também desenvolveu soluções para Raspberry Pi, agora traz uma versão otimizada para o Pi 5.

A Cactus Compute já trabalhou com hardware de baixo custo, como o Raspberry Pi, e agora se dedica a inteligência artificial leve. A novidade é a capacidade de rodar comandos localmente, sem internet, algo que já era possível no modelo anterior, mas agora com desempenho maior que o anterior A empresa ainda não revelou preços ou datas de disponibilidade, mas já está preparando versões para outros dispositivos

Latência e autonomia do Needle 2

O Needle 2 troca a necessidade de aceleradores de IA por um modelo otimizado para o Raspberry Pi 5. Ele roda com baixa demanda de memória e sem dependência de internet. A latência de execução é de 78ms, e a resposta chega em 149ms, tornando a interação mais ágil. O modelo é totalmente local, sem APIs em nuvem, garantindo operação autônoma.