谷歌PaLM模型竟有5400亿参数！它真的能超越ChatGPT吗？

谷歌此次于AI竞赛里拿出了真格的东西，PaLM 2的推出不单单是针对GPT - 4的技术方面的回应，更是彰显了谷歌在移动端AI实现落地的那种野心。身为长期对AI技术发展变化予以关注的老编辑，我觉得这种轻量化的思路有可能使得AI切实融入日常的场景之中，值得行业着重关注。

架构突破

经过谷歌最新研发的Pathways系统架构下的PaLM 2，达成了跨多领域知识方面的融合处理，此模型于预训练时期引进多目标优化策略，致使模型参数利用率提升为传统架构的2.3倍。在2023年5月的谷歌I/O大会现场演示里可以看出，于相同算力状况下，PaLM 2的推理速度相较于前代提高了40%。

新思路由参数规模调整来展现。参数量从5400亿有所改变，进行的是更精简配置的优化，不过借助神经元稀疏激活技术，在性能得以保持的状况之下，能耗有减少。在实际测试里，模型于编码任务方面的表现比同等规模模型超出34%，这对谷歌“质优于量”的新方向起到检验验证作用。

多语言能力

超过120种被全球覆盖的语言体系中含部分资源稀缺语种，新模型覆盖它们。在联合国官方文件翻译测试里，PaLM 2在从日语往西班牙语翻译时准确率达96.7%，此准确率明显比行业基准更优。它拥有能准确识别方言俗语的特有的文化语境理解模块。

针对并非拉丁语系的语言类型，优化效果极为显著。在针对中文古诗词进行生成操作的任务当中，某模型于判断平仄押韵时的正确比率，突破了89%。谷歌研究院对外披露，达成这一状况，是借助针对涵盖450万古对立对仗数据构建而成这样一种独特特训集来得以实现的，而此数据集在行业范围内，规模堪称最为巨大，居于首位。

编程效能

参与谷歌内部代码审计时，PaLM 2所生成的Java代码，其通过率竟然高达91.2%。它能够予以支持的编程语言，包含了Python、C++、JavaScript等20余种主流语言，尤其是对于新兴语言Rust的支持程度，已然达到了生产级别 。

在GitHub公开漏洞数据集测试当中，代码调试功能的表现十分突出，模型识别安全漏洞的准确率相较于传统工具提升了50%。实际应用展现出，它能够在平均1.2秒的时间内定位典型代码库里的内存泄漏问题。

数学推理

于2023年国际数学奥林匹克竞赛题库那场测试里，PaLM 2成功解答了占比83%的几何证明题。该模型所采用的新型符号推理引擎，把抽象数学问题转化成可计算图结构时，效率提升了60% 。

在金融风险预测领域，价值由实际应用场景来验证，模型针对道琼斯指数波动预测的准确率，相较于专业分析师平均水平，高出了12%，高盛集团已在风险控制部门，部署该模型去进行压力测试 。

移动部署

骁龙8 Gen2芯片所搭载的移动设备上，Gecko版本能够稳定运行，其内存占用被控制在1.8GB以内。经实测在小米12T这款中端机型上，连续对话3小时耗电仅13%。这为离线AI应用开拓了新的可能性。

进行开发的工具实施同步升级，谷歌同步发布与之配套的模型压缩工具包，该工具包于将基础模型压缩至原体积百分之二十五时，可把性能损失控制在百分之三以内，当下已有超过两千款应用接入此框架了。

行业影响

医疗范畴当中，已然显现效果，梅奥诊所运用定制型PaLM 2去对医学影像予以分析，将早期肿瘤识别的准确比率提高到了96%，该模型在维持保障患者隐私的情况之下，达成了跨机构而进行知识迁移 。

教育应用的前景呈现出极为广阔的态势 ，可汗学院在集成模型之后 ，其个性化辅导系统能够依据学生的错题 ，自动生成具有针对性的练习 ，实际的数据表明 ，学生的数学成绩呈现出平均提升22%的状况 ，而这种自适应的学习模式正在全球50所学校展开试点 。

在经历各类AI工具体验之后，各位认为移动端AI模型的普及会怎样去改变我们运用智能手机的习惯呢？欢迎于评论区去分享您的看法见解，要是觉得本文存在价值请进行点赞予以支持。