生存LLM:在您自己的计算机上运行的AI助手和应急图书馆
生存LLM是一个免费的AI助手和应急图书馆,完全在您自己的计算机上运行。询问它如何在停电时保持食物安全、处理烧伤或净化水,它将从可信来源回答,并准确显示每个答案的出处。免费且开源。在您连接互联网时进行设置;之后不再需要。它的功能:在没有互联网的情况下工作。AI模型和图书馆存储在您的计算机上。您所询问的内容不会离开计算机。显示其来源:每个答案都列出它所阅读的文章。单击其中一篇,可以自己阅读,确切的段落会被高亮显示。为应急准备而制作:医疗参考、联邦应急管理署(FEMA)和疾病控制与预防中心(CDC)的指导、求生手册、操作指南、维修指南,约930,000篇维基百科文章。选择您的版本:该应用程序在各处都是相同的。当它打开时,它会检查您计算机的内存,并下载适合的AI模型。更多内存意味着更聪明的模型。您计算机中使用的AI模型:我们的应急测试模型下载:内存128GB或更多的Mac,NVIDIA Nemotron 3.5,22道题中正确21道,80GB;内存32–96GB的Mac,Qwen3.8 27B,22道题中正确21道,18GB;内存32GB或更多的Windows PC,NVIDIA Nemotron 3.5 Lightning,22道题中正确19道,25GB;内存16–31GB的Mac或PC,IBM Granite 4.2 8B,22道题中正确14道,6GB。“正确”表示它在我们之前的图书馆构建版本的测试中,对22个停电和急救问题的官方指导的主要观点得到了正确的理解(我们的测试方法)。较小的模型错误更多,因此应用程序始终显示来源以供检查。加上图书馆:包含一切的9GB下载(安装后19GB),或不含维基百科和iFixit的1.3GB(安装后3GB)。需要的可用磁盘空间:模型大小加上5GB,以及在整个图书馆安装期间约27GB(较小的图书馆为10GB)。适用于Apple Silicon Macs(M1或更新版本),操作系统为macOS 14 Sonoma或更新版本,以及64位Windows 10或11。三步设置:根据您的计算机和互联网速度,设置时间为20分钟到约2.5小时。您只需点击约5分钟,其余时间是下载。下载生存LLM for Mac或Windows并解压。在Windows上,右键单击压缩包并选择“提取全部”。打开它。在Mac上,双击生存LLM。在Windows上,打开解压后的文件夹,双击生存LLM.bat。按照设置步骤操作。应用程序会在其自己的窗口中打开,并下载AI引擎(内置于Mac应用程序)、适合您计算机的AI模型和图书馆。让其在您在线时完成。第一次打开时,您的计算机会警告您,因为该应用程序并未通过应用商店出售。Mac:点击“完成”,打开“系统设置”>“隐私与安全”,向下滚动到“生存LLM被阻止”,点击“仍然打开”并用您的密码确认。您只需执行一次。Windows:点击“更多信息”,然后选择“仍然运行”。图书馆中包含的内容:开放许可(某些仅限于非商业用途)和公共领域参考的纯文本副本,可以在一秒钟的极短时间内进行搜索:关于930,000篇维基百科的最热门文章,WikiMed医学百科,全美医学图书馆MedlinePlus,英国药物A到Z(公共部门信息),WikEM急救医学,Ready.gov(FEMA)紧急指南,CDC旅行者健康,美国军医和求生手册,估算微死亡率的风险参考:生命表和美国死亡率,wikiHow操作指南,iFixit维修指南,Appropedia(适当技术),关于家庭维修、烹饪、园艺、户外活动和业余无线电的问答(Stack Exchange)。每个来源保留其自己的许可,这在每篇文章中显示;查看附有许可的完整列表。好知道它可能会是错误的:AI模型会出错,较小的模型出错得更频繁。每个答案显示其使用的文章,因此您可以进行检查。私密性:不需要账户,不会跟踪。您的问题从未离开您的计算机,设置完成后,即使离线也能正常工作。您的文件:添加PDF、Word文档、电子书和笔记,例如您发电机的手册或您家庭的紧急计划,AI也会搜索这些文件。它们保留在您的计算机上。更新:在应用程序底部检查更新,可以一键安装新版本,并保留您的模型、图书馆和文件。电池:在MacBook Pro上,我们测得在回答问题时约100W的功耗,每个问题耗时5到40秒:一块满电的电池大约回答100到300个问题。一个小发电机或电源站可以轻松运行它。
阅读全文 →本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡