cactus-compute

@cactus-compute

needle

cactus-compute/needle

14MB foundation model for tiny devices; phones, wearables, smart home, and robots.

STARS3,866
FORKS293
OPEN ISSUES / PRS29
LANGUAGEPython

CHOOSE YOUR VIEW

你想怎么了解这个项目?

同一份项目事实,两种阅读深度。不会改变页面地址和搜索内容。

当前展示快速摘要和完整技术内容,请按需要选择。选择只保存在当前设备。

ADOPTION BRIEF

项目采用前简报

当前判断证据不足,继续观察
标准证据模板项目采用前评估

已有部分公开证据,但样本或表述仍不足以支撑采用结论。

已有公开依据

  • 项目用途:来自项目描述、README 或现有中文解读。
  • 榜单记录:来自本站保存的周期快照和历史排名。
  • 健康证据:已采集公开提交、Issue、PR 或 Release 样本,当前置信度为 样本有限。
  • License:仓库当前声明为 MIT,仍需回到完整协议核验。
  • 近期变化:已有可展示的公开事实摘要,原始链接仍是最终核验入口。
  • 部署提醒:页面保留 README 和仓库链接,具体依赖、数据边界与运行方式以项目方文档为准。

采用前仍需核验

当前模板未发现明确证据缺口,但仍需在你的实际环境完成安装、依赖、数据和安全验证。

建议的下一步

  1. 打开 README 和完整 License,确认依赖与使用义务。
  2. 在隔离的测试环境完成最小可运行验证。
  3. 根据真实业务数据决定继续评估或暂缓采用。
01

QUICK UNDERSTANDING

先用几分钟判断它是否值得继续看

人话与术语分开,事实不变
先说人话 它把一个很小的智能工具装进手机、手表或家用小设备里,让设备能听懂你的话并执行任务,比如查询信息或控制其他设备,而且这些事可以在设备本地完成,不必把信息传到网上。

可以把它理解成一个随身携带的小助手,它住在你的手机或设备里,你说一句话,它就帮你操作,不需要把信息传出去。

WHEN TO USE IT

什么时候用得上

  • 当你出门在外,想用手机语音问明天的天气,又不想把语音传到网上,它可以在手机本地直接完成查询。
  • 当你家里的智能开关因为断网了没法控制时,它可以听懂你说的话,直接帮你开灯或关灯。
ONE EXAMPLE

举个具体例子

例如,一位用户把手机上的这个工具设置好之后,对着手机说'拉各斯现在天气怎么样',它就在本地识别出这是查询天气的任务,调出手机里已有的天气查询功能,很快显示天气结果,整个过程没有把语音传送到互联网。

WHO IT FITS

如果你是……

  • 如果你喜欢自己动手给手机或智能设备添加新功能,可以把它当作一个可以定制的小助手。
  • 如果你比较在意隐私,希望一些语音指令在本地处理,不经过云端,那么这个小工具值得关注。
BEFORE YOU START

开始前先知道

  • 开始前,你需要确认自己的设备能腾出约28MB的临时空间供它运行,这是项目方提供的数字。
  • 开始前,你可以先阅读项目的说明,弄清楚它具体能完成哪些任务,以及如何安装到你的设备上。
当前维护状态近期活跃

最近 30 天内有代码推送记录。

License 提醒通常允许商业使用

通常仍需保留版权、许可声明,并遵守协议中的附加义务。

结论从哪里来?中文说明由公开项目资料辅助整理,最终判断请回到项目方原始来源。

HISTORICAL INTELLIGENCE

历史情报摘要

按周期独立统计
日榜首次记录
历史最佳#17当前排名#17

暂无可比的上一期数据

记录天数
1 天
记录期 Star
0
本站共 20 天日榜快照 · 最近记录 2026-08-12
本站最早记录:2026-08-12

指标仅基于本站已保存快照,不代表项目在 GitHub 的首次上榜时间;同日多次抓取保留当日最新结果,负向 Star 差值按样本校正处理。

VERIFIABLE HEALTH SIGNALS

项目健康证据

维护、响应、交付与采用风险分开观察,不生成虚假的单一总分。
样本有限
MAINTENANCE

维护活性

核对提交
近 90 天 Commit
15
按公开记录统计 · 完整窗口
活跃贡献者
4
按公开记录统计 · 按公开提交账号去重
近 12 月活跃月份
6/12
有提交的自然月
RESPONSE

社区响应

核对样本
Issue 关闭率
0%
按公开记录统计 · 0/12 个同期新 Issue · Issue 原始样本 12 条/有效样本 12 条/排除 0 条
Issue 关闭中位数
暂无闭环样本
按公开记录统计 · 仅统计已关闭样本
PR 合并率
20%
按公开记录统计 · 2/10 个同期新 PR · PR 原始样本 10 条/有效样本 10 条/排除 0 条
PR 合并中位数
2.5 天
按公开记录统计 · 仅统计已合并样本
DELIVERY

持续交付

核对发布
近 12 月正式 Release
0
按公开记录统计 · 排除草稿与预发布
最近正式 Release
暂无记录
按公开记录统计 · 以公开发布时间为准
发布间隔中位数
样本不足
按公开记录统计 · 至少两次正式发布才计算
ADOPTION

采用风险

查看仓库
仓库状态
正常开放
未发现归档标记
开源协议
MIT
仍需核对完整协议与依赖
Security Policy
未发现
仅检查 GitHub 社区资料

仓库类型 代码项目统计窗口 90 天快照样本 1 天计算规则 health-v2采集于 2026-08-12 19:15

代码项目:按提交、协作、发布与采用风险分开观察。 当前样本覆盖、分页完整性或适用度不足,不把局部数据写成整体结论。 这些信号不替代代码审计、安全测试和真实生产验证。

90-DAY CHANGE RADAR

最近 90 天发生了什么

依据可复核的项目特定事件生成,不用通用文案补足事实。
部分样本
近 90 天的可复核变化主要来自已合并 PR

近 90 天记录到 15 次 Commit、10 个新 PR(2 个已合并)和 12 个新 Issue(0 个已关闭);同期可复核正式 Release 0 个。

代码推进15 次 Commit

按公开提交记录统计,不判断内容或代码质量。

合并协作2 / 10 个 PR

前者为已合并数量,后者为同期新建样本。

问题响应0 / 12 个 Issue

前者为已关闭数量,后者为同期新建有效样本。

正式发布0 个 Release

仅统计窗口内非草稿、非预发布版本。

2026-05-14 至 2026-08-12规则 changes-v3生成于 2026-08-12 19:15

  • 代码项目:按提交、协作、发布与采用风险分开观察。
  • 事件是否存在由确定性规则识别,摘要不使用 AI 猜测事件。
  • 这些公开活动记录不等同于代码质量、安全性或生产可用性结论。
  • 本站每日指标快照目前积累 1 天,不补算缺失日期,也不伪造完整 90 天增量。

AI-ASSISTED PROJECT BRIEF

项目定位与辅助解读

来源边界与风险表述检查

AI 解读仅作初评参考,技术落地请以 GitHub 源码、README 和完整协议为准。

项目资料AI 整理

根据项目方公开资料,Needle 2 是一个面向小型设备的开源工具调用模型,参数量45M,整体打包为14MB二进制,据称可在约28MB内存中运行,并提供Python推理、微调与导出包。

根据项目方公开资料,Needle 2 是 cactus-compute 发布的开源小型模型,面向手机、可穿戴设备、智能家居和机器人等资源受限场景。它基于项目方提出的Simple Attention Network架构,将模型压缩为14MB的单一二进制文件,并声称完整会话仅需约28MB内存。项目使用Python包分发,支持通过装饰器定义工具,模型以结构化JSON输出结果,并附带置信度评分。仓库中提供了推理、LoRA微调和导出功能。不过,上述性能描述和基准结果均来自项目方自述,尚未发现第三方独立验证报告。

核心亮点

项目最值得关注的能力

AI 推断
  • 模型打包为14MB单一二进制,据称运行内存约28MB
  • 支持工具调用,以结构化JSON返回结果,并带置信度评分
  • 提供Python包,一行安装即可推理、LoRA微调和导出

适用场景

它可以解决哪些实际问题

AI 推断
  • 手机或手表上的离线语音助手,直接调用本地功能
  • 智能家居中心的设备控制,断网也能响应指令
  • 嵌入式设备上的结构化数据提取,如从文本中抽取信息

技术观察

从公开资料提炼的实现特征

AI 推断
  • 基于Simple Attention Network,使用Hadamard MLP替换FFN,并引入engram键值记忆
  • 采用Cactus Quants量化为CQ2-bit,模型和推理引擎融合在单一二进制中,推理时无外部依赖
  • 通过字节级语法编译工具Schema,约束解码输出;使用256-token滑动窗口和KV sink保持内存稳定

优势判断

相对明确的项目价值

AI 推断
  • 体积小,内存占用低,适合资源受限设备
  • 提供完整的Python工作流,通过装饰器和类型注解即可定义工具

局限与注意

评估和采用前需要留意

AI 推断
  • 模型参数量小,复杂任务能力可能有限,且基准测试仅来自项目方自述
  • 工具调用的可靠性依赖工具描述的清晰度,需要用户精心编写文档

适用人群

哪些开发者和团队值得关注

AI 推断
  • 面向移动端、嵌入式AI和边缘计算的开发者
  • 需要轻量级本地模型用于工具调用的研究团队
综合参考
从公开资料看,该项目在模型体积和内存占用方面具有显著特色,适合端侧设备上的本地化AI应用探索。但其实际能力、安全性和稳定性仍需独立验证。建议开发者在采用前,结合自身场景进行充分的单元测试和性能评估,并关注项目方对模型行为的说明。
由 AI 基于 GitHub 公开资料辅助生成,不构成安全审计、生产选型或专业建议。

依据与内容边界

区分可验证事实、项目方自述与 AI 推断

GitHub 可验证事实

Star、Fork、License、更新时间及健康证据样本来自 GitHub 公开接口。

项目方自述

功能与使用方式主要来自仓库描述和 README,未经本站独立验证。

AI 推断

适用场景、优势与局限属于辅助解读,应结合原始文档独立判断。

  • GitHub事实:仓库 cactus-compute/needle 使用Python,MIT许可,截至当前有3835星、292个Fork和29个未关闭Issues/PRs。
  • 项目方自述:README称Needle 2为45M参数模型、14MB二进制、28MB运行内存,并声称与其他小模型在基准上互有胜负,但未提供第三方验证。
生成于 2026-08-12 19:35 规则版本 2026-08-v5-plain-language
内容有误或您是项目作者?提交纠错
仅保存处理所需内容,不记录原始 IP;可信项目作者的高风险申诉会优先处理。