第三财经网 2025-03-09 22:46 0
随着大语言模型(LLM)日益蓬勃,我们看见不少项目正在将人工智能(AI)和区块链融合。LLM和区块链的结合越来越多,我们也看到人工智能重新与区块链融合的机会。其中值得一提的,当属零知识机器学习(ZKML)。
人工智能和区块链是两种具有根本性差异特征的变革性技术。人工智能需要强大的计算能力,通常由中心化的数据中心提供。而区块链提供了去中心化的计算和隐私保护,在需要进行大规模计算和存储任务上表现不佳。我们仍在探索和研究人工智能和区块链集成的最佳实践,后续也将向大家介绍目前一些”AI+区块链”结合的项目案例。
LLM是什么?
LLM(大语言模型)是一种计算机化语言模型,由一个具有大量参数(通常为数十亿)的人工神经网络组成。这些模型在大量未标记的文本上进行训练。
2018年前后,LLM的诞生彻底改变了自然语言处理的研究。与以往需要为特定任务训练特定监督模型的方法不同,LLM作为一个通用模型,在各种任务上都表现出色。其能力和应用包括:
1、理解和总结文本:LLM可以理解和总结大量的人类语言和文本数据。它们可以提取关键信息并生成简洁的摘要。
2、生成新内容:LLM具有生成基于文本内容的能力。通过向模型提供prompt,它可以回答问题、新生成的文本、摘要或情感分析。
3、翻译:LLM可用于在不同语言之间进行翻译。它们利用深度学习算法和神经网络来理解词汇之间的上下文和关系。
4、预测和生成文本:LLM可以基于上下文背景预测并生成文本,与人类生成的内容类似,包括歌曲、诗歌、故事、营销材料等。
5、在各个领域的应用:大型语言模型在自然语言处理任务中具有广泛的适用性。它们被用于对话式人工智能、聊天机器人、医疗保健、软件开发、搜索引擎、辅导、写作工具等众多领域。
LLM的优势包括其对大量数据的理解能力、执行多种语言相关任务的能力,以及根据用户需求定制化结果的潜力。
由于其出众得自然语言理解能力,LLM具有相当大的潜力,而开发者主要关注以下两个方面:
1、基于大量的上下文数据和内容,为用户提供准确的并且最新的答案
2、通过使用不同的代理和工具完成用户下达的特定任务
正是这两个方面让与XX聊天的LLM应用如雨后春笋般爆发。例如,与PDF聊天、与文档聊天以及与学术论文聊天。
随后,人们尝试将LLM与各种数据源融合。开发者已成功将平台,如Github、Notion和一些笔记软件与LLM整合。
为了克服LLM固有的限制,不同的工具被纳入了系统中。第一个这样的工具是搜索引擎,为LLM提供了访问最新知识的能力。进一步的进展将把WolframAlpha、GoogleSuites和Etherscan等工具与大型语言模型整合。
LLMApps的架构
首先,相关的数据源被转换为嵌入向量并存储在向量数据库中。LLM适配器使用用户查询和相似性搜索从向量数据库中找到相关的上下文。相关的上下文被放入Prompt中并发送给LLM。LLM将执行这些Prompt,并使用工具生成回答。有时,LLM会在特定数据集上进行调优,以提高准确性并降低成本。
LLM应用的工作流程可以大致分为三个主要阶段:
1、数据准备和嵌入:
该阶段涉及将机密信息(例如项目备忘录)保留以供将来访问。通常,文件会被分割,并通过嵌入模型进行处理,保存在一种特殊类型的数据库中,称为向量数据库。
2、Prompt的构建(Formulation)和提取(Extraction):
当用户提交搜索请求(在本例中,搜索项目信息)时,软件会创建一系列Prompt,输入到语言模型中。最终的Prompt通常包含由软件开发人员硬编码的提示模板,作为few-shot示例的有效输出示例,以及从外部API获取的任何所需数以及向量数据库中提取的相关文件。
3、Prompt的执行和推理:
完成Prompt后,将它们提供给预先存在的语言模型进行推理,这可能包括专有模型API、开源或经过个别微调的模型。在此阶段,一些开发人员可能还会将操作系统(如日志记录、缓存和验证)整合到系统中。
将LLM引入加密领域
1、尽管加密领域(Web3)与Web2有一些类似的应用,但在加密领域中开发出优秀的LLM应用需要尤其谨慎。加密生态系统独特,具有其特有的文化、数据和融合性。在这些加密限定的数据集上微调的LLM可以以相对较低的成本提供优越的结果。虽然数据丰富可得,但在类似HuggingFace等平台上明显缺乏开放数据集的。目前,只有一个与智能合约相关的数据集,其中包含11.3万个智能合约。
2、开发者还面临将不同工具整合到LLM中的挑战。这些工具与Web2中使用的工具不同,它们赋予LLM访问与交易相关的数据、与去中心化应用(Dapp)互动以及执行交易的能力。到目前为止,我们还没有在Langchain中找到任何Dapp的集成。
3、尽管开发高质量的加密LLM应用可能需要额外的投入,但LLM天然适合加密领域。这个领域提供了丰富的、干净的、结构化的数据。再加上Solidity代码通常简洁明了,这使得LLM更容易生成功能性的代码。
LLM可以帮助区块链领域的8个潜在方向,如:
1、将内置的人工智能/LLM功能集成到区块链中
2、使用LLM分析交易记录
3、使用LLM识别潜在的机器人
4、使用LLM编写代码
5、使用LLM阅读代码
6、使用LLM帮助社区
7、使用LLM跟踪市场
8、使用LLM分析项目
热门文章