Needle 2 troca aceleradores de IA por modelo otimizado para Raspberry Pi 5

O Needle 2 é uma solução de inteligência artificial leve desenvolvida pela Cactus Compute. Ele permite a execução de comandos sem aceleradores de IA externos. O modelo funciona com 14MB de memória e não precisa de internet

Ele permite a execução de comandos sem aceleradores de IA externos, sendo totalmente local e com baixa demanda de recursos. O modelo consome 28MB de memória para operar e usa apenas 14MB de memória para o modelo em si. Comandos são executados em 78ms e resultados retornados em 149ms.

Perguntas não relacionadas recebem resposta vazia em 92ms. O Needle 2 não precisa de internet ou APIs em nuvem, funcionando apenas com recursos do próprio dispositivo. Disponível no Hugging Face e no GitHub sob licença Apache 2.0, o modelo é otimizado para o Raspberry Pi 5.

A Cactus Compute apresenta o Needle 2 como uma alternativa prática. O modelo identifica comandos e parâmetros automaticamente via Python, sem exigir configurações complexas. A otimização para o Raspberry Pi 5 permite que ele rode com eficiência em dispositivos de baixo custo. A disponibilidade no Hugging Face e no GitHub facilita o acesso para desenvolvedores que desejam integrar a tecnologia em seus projetos

Ficha técnica

Memória e desempenho do Needle 2

O modelo não precisa de internet ou APIs em nuvem, o que facilita a integração em ambientes offline. Comandos são convertidos em funções pré-definidas em 78ms, e resultados chegam em 149ms. Para perguntas não relacionadas, o modelo retorna vazio em 92ms, indicando que não reconhece o comando.

A licença Apache 2.0 permite uso livre, mas com restrições de comercialização. A capacidade de identificar comandos e parâmetros via Python torna o Needle 2 flexível para diferentes aplicações. Ele é totalmente local, o que reduz dependência de servidores externos e aumenta a privacidade dos dados. A licença Apache 2.0 permite que o modelo seja integrado em projetos sem restrições de uso comercial, mas com obrigações de atribuição.

Needle 2 evolui o modelo anterior da Cactus Compute

O Needle 2 é a evolução do Needle, modelo anterior da Cactus Compute, que já permitia comandos sem aceleradores de IA. A empresa, que também desenvolveu soluções para Raspberry Pi, agora traz uma versão otimizada para o Pi 5. A versão anterior, o Needle, funcionava com 14MB de memória, mas o Needle 2 melhora a eficiência com 28MB de uso.

A Cactus Compute já trabalhou com hardware de baixo custo, como o Raspberry Pi, e agora se dedica a inteligência artificial leve. A novidade é a capacidade de rodar comandos localmente, sem internet, algo que já era possível no modelo anterior, mas agora com desempenho maior que o anterior A empresa ainda não revelou preços ou datas de disponibilidade, mas já está preparando versões para outros dispositivos

O Needle 2 troca a necessidade de aceleradores de IA por um modelo otimizado para o Raspberry Pi 5. Ele roda com baixa demanda de memória e sem dependência de internet. A latência de execução é de 78ms, e a resposta chega em 149ms, tornando a interação mais ágil.

O modelo é totalmente local, sem APIs em nuvem, garantindo operação autônoma.

• #hardware
• #software