Ligetron：Nim Network开发的针对AI的zkVM

尼姆网络(Nim Network)最近推出了其尼姆AI框架的初始组成部分,该框架提供经济所有权和获取经核实的AI模型的机会。 由于成本高昂,在区块链上实施AI计算具有挑战性。 许多人选择在链下进行计算,这更容易实现,但需要不同的信任假设。

用于AI推理的 zkML 或 ZK 提供了保护机密数据和零知识模型参数的解决方案,这对于保护独立的开放源码AI的利润十分重要。 但是,由于成本高和硬件要求高,zkML 不适用于大规模AI应用。

Ligetron为AI验证提供了最有效的ZK解决方案,优先考虑成本效益,Nim网络小组预测,ZK将是影响每个一体化AI加密系统的成本和开支的主要因素。

在短短的三周内,尼姆网络创造了世界上第一个最受欢迎的开放源模型之一,即Llama 2 7b模型的证明,Ligetron 1.0实现了对内存改进的1024倍和速度性能改进的66倍,而与Modulus之前的最好尝试相比,速度性能改进是Modulus的1024倍和66倍。Ligero基线测试的复杂的人工智能计算成本是20 000倍。粗织物估计会将其减少到中期优化的20倍。

ZK 字段提供两种途径:

1,1,zkVMM2,通用语言和重负载计算zkML

似乎不可能将两者的优势结合起来 -- -- 直到现在为止。利格伦提供了一种通用的ZkVM,即:

复杂的人工智能模式可以快速运行,具有更具竞争性的资源密集型ZkVM。

Ligetron 1.0 提供了独特的特性 :

具有内存的高效ZK系统使Ligero能够以先进的证明硬件和低成本商业硬件高效率地运作。由于其记忆效率,Ligetron允许开发者甚至从浏览器中以C、C++或Rust等先进语言开发ZK应用程序。可以在https://ligetron.com/上测试。在诸如AI推理等沉重的载荷下,性能特别强,这种推理使得高性能低成本。其通用设计降低了使用不同的AI模型的集成成本,这是ZK系统跟上新的AI创新的一个先决条件。

Ligeron 1.0是一个高效的记忆ZK系统,基于Liggero证据(Scott Ames、Carmit Hazay、Yuval Ishai和Muthuramakrishnan Venkitasubramaniam 2017年的论文Ligero:没有信任的设置的轻量子线原则,2022年的Ligero:没有信任的设置的轻重子线结构。Ligetron 1.0 ZKSNARK是由Ligero共同作者根据Ligero的蓝图创建的,以产生ZKSNARK。

内存效率设计,从WASM方案中产生即时制约(线性和四面性)。

Ligetron是第一个,也是唯一的一个以散列为基础的ZKSNARK,它保持了记忆效率,并基于2007年由Ishai、Kushilevitz、Ostrovsky和Sahai首次在2017年ACM CCS会议上提出的现代实现 " MPC " 头版模式。

Lijetron的多功能工具链可以将先进的语言交叉组合到 WASM, 这样任何与 Yigetron 相容的 WASI 语言都可以与 Lijetron 结合使用。 关键是 :

Ligetron 的内存数倍于 最底层的 MSM 程序所需的恒定内存数倍 。

由于Ligero具有高效的内存设计,它使开发商能够直接从C、C++或Rust等先进语言的浏览器上开发零知识应用程序,可在Ligetron.com上测试。

如果STARK系统在2023年垄断全世界AWS EC2的所有计算用途,其能力仍将低于每秒10倍。

理解大规模部署目前最先进的加密认证系统以推断像LLM这样的复杂的AI模型所面临的挑战的一个良好起点是考虑斯塔克等框架的资源吸引力以及某些主要云源供应商的全球计算负荷。 具体地说,AWS EC2在2023年第四季度的市场份额为31 %, 代表当前全球云运行规模。 根据公司公布的收入和定价信息,并按垂直区域(计算、储存、网络等)细分,2023年的平均负荷似乎在1.22亿 vPU之间。

对史塔克框架目前基准的分析似乎需要1,280万反CPU来维持每秒1的吞吐量。 如果史塔克在2023年垄断了全世界对AWS EC2的所有计算,那么其容量将保持在每秒10次以下,大大低于随着全球采用率的增加而预计的AI和LLM推理增长。 它还需要多达476个PB记忆,几乎是目前最大的超级计算机Fugaku和Fugaku 32 PB的15倍。

即使目前不优化,利速为300倍,以同样的速度更便宜。

Starks是生产中最具竞争力的ZK Provers公司,它用来通过滚筒扩大门户。 Starks公司使用大约200个CPU和大约0.5个TB 内存来显示1,000-2 000个TPS。它通过连续和回归的组合来实现这一点。据估计,在15-30分钟内可以包装1亿至200万笔交易。正如你们可以想象的那样,个人 Stark 证书在Ligetron基准测试中显示的大小与Llama 7B模型相同。然而,生产这一证书所需的昂贵硬件将花费300美元来证明这一推理。

Ligetron 的当前基准测试以 r 7i.4xxmusus 运行, 成本低于 15 美元。 在独立基准测试中,一旦运行在单一 g5.xmusion上, Ligetron 的滚动群电路实现了约500个TPS 。 滚动电路是一种结构化的计算,而Ligetron 的基线测试则假设该计算是非结构化的WASM 计算。

据保守估计,最多需要四个g5.x大例子才能在15分钟内完成个人推理,费用不超过1美元。

　　

Ligetron 1.0 已经获得了使用基准版本进行模型验证的最佳基准,该基准版本仅需要三周时间准备,没有特殊的小型工具或定制电路。 只有Llama2.c 将被汇编成WASM, 并使用商业硬件运行, 使用r74xmag (8核), 高峰内存用量为 10GB 。

Ligetron 1.0 基线测试使用极光2.c (纯Llama-2 推理引擎) 使用定量Llama2 模型生成标语。 WASM 代码使用4.4亿个浮点(fp32)和30亿个整数(int32/int64)命令执行,在编译后,生成了1280亿个线性约束和800亿个100比特环的二级约束(乘以两个50位数),运行Prover大约需要14小时(50,000秒)和大约6.5小时(22,000秒)才能生效。

主要调整了C代码,将64位浮点操作的一部分转换为32位浮点操作,并修改WASM,绕过 4GB 内存限制,运行量化的Llama 7b模型。

Ligetron在 r7i.4xig (8核) 上运行了Llama 7B模型,最高记忆使用量为 10GB 14 小时,而Moduls实验室则运行GPT-XL 1.5B模型(128 核,1 TB RAM (10 TB 磁盘)配置超过 200小时),Ligutron使用将岩心数减少四倍和将记忆/文件占用空间数减少100倍,加速了4.6模型的14倍。 [见:Moduls 数据来源:Moduls Labs 团队,2024年3月15日,第14章:世界第一号在Cain LM]

　　

EZKL是一个显著的例子,它试图利用EZKL(https://github.com/zkonduit/ezkl)将纳米GPT(https://github.com/karpathy/nanoGPT)纳入Halo2-KZG电路。

2023年10月17日, EZKL 团队博客Honey I SNARCED GPT

使用AMD EPYC 7451 24型核处理器,该处理器配备了256GB RAM,运行一个有100万个参数的模型需要大约2000秒。另一方面,利杰罗运行一个7000倍以上的模型需要大约50 000秒。这表明利杰特的性能比EZKL高280倍,尽管利杰特罗的硬件要求很低。

　　

Ligetron目前花费了20,000次,预计会增加1,000次,从而将AI计算提高20倍。 这将比GKR证明的Modulus实验室(见Twitter https://x.com/ModulusLabs/status/17277654901685) 2024年2月27日声称的180倍的增长还要高,同时为不同类型的AI模型提供低成本的通用解决方案。

在未来几个月里,尼姆网络小组计划广泛优化利杰特隆,以便进行人工智能验证。 尼姆网络的行进图预测利杰特隆的功能将大大增强1000倍。 其中包括:

希望通过利用GPU功能增加10倍,增加10倍,利用高结构电路,增加10倍,进一步增加10倍。

2024年Ligero小组的基准测试表明,随机和结构化电路(在纸张中称为棍棒和非棍棒)的速度增加了10倍,这可能导致增加1 000倍。通过这些优化,预计Ligero小组(Batchman和Robin:Batchman和Robin:Batched和无棍棒分行用于互动ZK)的最新研究将再次实现对zkVM的优化处理。

值得指出的是,Ligero已经证明目前无法在链条上核实。

首先,需要改用Ligero的预处理变体;第二,Ligero已经证明需要优化,以便与完全简单的SNARK(如Groth16/Sonic)相结合。

利热罗证明长度以计算比额表的平方根缩放,而STARK则按单方平方平方平方平方平方平尺缩放。 但实际上,在中等规模计算中,利热罗证明比STARK小,在大规模计算中仍然具有竞争力(也见17个关于SNARK(以及为什么他们阻止我们)的误解),因为利热罗将使用传统的SNARK,因此认证线路的大小将比证据长度更重要,尼姆网络小组计划进一步优化认证线路的大小。

ZK地区的两个主要发展道路是:

zkVM:侧重于通用语言zkML:为大量计算负荷优化。

似乎不可能将两者的优势结合起来 — — 直到利杰特龙出现。 有了这种新的兹克WASM技术,利杰特龙可以很容易地处理大量的人工智能计算,预示着一个效率和速度的新时代。

运行 Ligetron 的基准测试不需要任何特殊电路或小型工具。 Ligero 能够证明任何 WASM 程序( 无人意识控制的流程 ) 。 基准测试需要大约三周时间与浮动点计算( 通过简单的实现)一起开发。 NimNetwork 团队将 Llama2. c 程序编为 WASM 程序, 并设定了Ligero 的性能基准。 下表显示Ligetron 1.0 具有zkVM 的竞争力, 并处理大型商业硬件程序 。

　　

尼姆的下一个计划是迅速使用验证AI计算能力的实际案例和应用程序。 这将有助于创建一个能连接模型创建者、应用程序、所有者和用户的动态网络。 尼姆网络团队将侧重于提高Ligetron系统的功能和效率,进一步探索其在游戏和消费者应用中的潜在应用。

PM 网络Ligetron Ligetron 1.0:在规模上为AI核查和Owenship铺路

注册有任何问题请添加 微信：MVIP619 拉你进入群

文章转载注明 网址：https://netpsp.com/?id=67383