当他想要解决一个知识上的难题时，伊恩·高德特（Ian Gaudet）会像越来越多的人在互联网上那样：他向聊天机器人询问。但是，当涉及到他的研究数据时，这位佛罗里达大西洋大学（Florida Atlantic University）神经科学家更倾向于保持离线。他解释说：“我不希望克劳德（Claude）开始告诉人们我的研究结果。” AI助理正在革新研究的方式 基于云的巨大语言模型（LLMs），例如支撑聊天机器人的克劳德（Anthropic）、双子座（Google）和ChatGPT（OpenAI），代表了人工智能性能的前沿。然而，这些系统可能会将输入的内容用于培训目的。对于像高德特这样的研究人员来说，最先进的性能并不值得数据保护、可重现性或预算风险。因此，他们转向越来越多的工具，例如Ollama和LM Studio，这些工具使研究人员能够将LLM下载到其计算机并离线使用。这些程序可以帮助研究人员整理和查询自己的文献库，以获取见解。 但有两个新的障碍取代了曾经阻碍研究人员使用它们的编程和设置问题：运行它们所需的硬件变得更加昂贵，而这些工具的输出仍需仔细审查，以评估其真实性。 本地化 询问研究人员为何希望在桌面上运行AI模型而不是在云中，答案几乎总是以数据为开头。位于爱达荷州库尔德阿伦的DEVONtechnologies公司总裁埃里克·博尼施-福尔克曼（Eric Böhnisch-Volkmann）不断听到使用该公司集成LLM的文档管理软件DEVONthink的用户反映。“医疗记录是一件事，诉讼是另一件事，研究又是另一件事，”他说。“他们只想掌握自己的数据，而不想把数据交给他们不信任的其他人。”隐私问题是有根据的。一项2025年的分析发现，被研究的六家AI开发商——亚马逊（Amazon）、Anthropic、谷歌（Google）、Meta、微软（Microsoft）和OpenAI——默认情况下会使用用户的输入数据来训练其模型（J. King et al. 预印本于arXiv https://doi.org/g967b4；2025）。 研究的AI：选择正确工具的终极指南 芬兰坦佩雷大学（Tampere University）的计算机科学家阿哈迈德·法鲁克（Ahmed Farooq）构建了一个名为TAUCHI-GPT的本地系统，使得在不离开大学网络的情况下可以搜索受到欧盟通用数据保护条例保护的论文、报告和研究数据。可重现性是另一个好处：基于云的AI提供商会在未经通知的情况下更新其模型，因此今天能正常工作的查询下个月可能会返回不同的结果。科罗拉多大学安舒兹医学院（University of Colorado Anschutz School of Medicine）的生物医学信息学家凯西·格林（Casey Greene）指出，如果本地模型使用相同的设置每次将他的文档转换为可搜索的索引，那么结果永远都是相同的。“如果你想用它来进行科学工作流程，能够做到这一点是重要的，”他说。 本地LLMs的另一个好处是经济性。负责安舒兹眼科AI研究的贾雅什瑞·卡尔帕西-克莱默（Jayashree Kalpathy-Cramer）通过Ollama使用Qwen（由阿里云开发）和NVIDIA Nemotron对十年的开放获取出版物进行了索引。这个语料库是公开的，因此她可以将其发送到一个远程的商业AI系统。但本地推断是免费的，这改变了她的工作方式。她的系统每日向她的系主任发送一份简报，突出值得阅读的新论文。相同的查询通过三个或四个AI模型运行，然后另一个模型对输出进行调和，每个摘要结果都会与其来源段落进行核对。由于该领域的所有记录都存放在一个可搜索的索引中，她可以对它们进行聚类、映射，并询问LLM研究中的任何空白。 意义的搜索 新泽西州霍博肯的科学出版社Wiley的初步调查结果显示，全球大约2400名研究人员中有68%使用AI进行文献搜索或审查（见 go.nature.com/4rpuvwj）。被快速接受的任务包括审查大量研究、监测最新出版物以及协助写作。卡尔帕西-克莱默表示，这些都是本地模型已经做得很好的工作。格林建立了一个嵌入的本地数据库——每个文档整体意义的数值表示——用于处理授予他所在大学的公共资助资助的摘要。当HIV研究的联邦资助提案呼吁出现时，他在数据库中搜索潜在的合作者。对HIV的关键字搜索突出了一个研究该病毒的团队。但对同一数据库的语义搜索，从意义的角度而不是确切的词汇来看，也找到了一个在标题中没有提到HIV但研究抗逆转录病毒治疗的研究人员。他然后向那位研究人员询问合作的可能性。神经科学家伊恩·高德特在佛罗里达大西洋大学。